智泊AI

爆爆爆！李飞飞的World Labs居然融资2.3亿美元！ 要知道，这个被称为"世界模型"的技术，正在成为AI界的新风口。 谷歌、英伟达、OpenAI这些巨头都在疯狂投入，...

1、什么是CUDA? CUDA(Compute Unified Device Architecture)是由 NVIDIA 开发的一种并行计算平台和编程模型。 它的主要目标...

一句话解释: Prefill 和 Decode 的分工 大语言模型生成文本的过程本质上是给定上下文，逐词预测下一个词。但在实现上，这个过程被明确地分成两个阶段： 为什么不能...

1.什么是大型语言模型? 大型语言模型，也称为 预训练模型 ，是一种 使用大量数据来学习语言特征 的人工智能。这些模型用于生成基于语言的数据集，并可用于各种任务，例如语言理...

01 什么是“RAG”? 大模型很聪明，但也有“短板” 上下文长度有限 比如 deepseek-r1 满血版的上下文上限是 128K tokens不能无限输入文本，超过了它...

目录： 一、为什么说 VLM 的灵魂是数据? 二、VLM需要什么样的数据? 1.通用图文对 2.OCR 数据(文字识别) 3.Visual Grounding & Coun...

一、BERT的本质 BERT架构： 作为预训练语言模型的代表，其核心由多层Transformer编码器构成。 该架构整合了Tokenization技术、多元Embeddin...

MCP充当着AI应用与能力（包括tools、prompts、resources等）的通用桥梁，其作用就好比USB-C接口为各类电子设备建立了统一的连接标准。 MCP通过引入...

随着AI大模型的爆火，在全球范围内引发了一场AI“狂飙”，也在业界点燃了一场百模大战。 基于近两年我在大模型领域的实践经历，想为在校学生/行业新人提供一些转型到大模型领域的...

01 “RAG”的检索召回流程(快速回顾) 当你向 RAG 系统提出一个问题，系统会: 使用 Embedding 模型 将问题转换为向量。 在向量数据库中检索语义相近的文本...

Transformer架构的整体结构 Transformer是一种专门处理序列数据(比如句子)的深度学习模型。 它的核心是个叫“自注意力机制”(Self-Attention...

01 RLHF是什么? RLHF 是一种结合强化学习(Reinforcement Learning)和人类反馈(Human Feedback)的技术，用于优化大语言模型(如...

提问：查了很多教程，也仔细看了Transformer的原始论文，大家都在讲Q、K、V矩阵怎么做点积和softmax得到注意力权重，但所有材料都默认我们知道这些Q、K、V矩阵...

DeCo: Decoupling Token Compression from Semantic Abstraction in Multimodal Large Langu...

四张图搞懂 RAG、AI Agent、Agentic RAG！ RAG + Agents= Agentic RAG Agentic RAG 描述了一种基于 AI Agent...

MOE训练用EP还是TP? 最近面试中被问到: 为什么在 MOE训练中使用_ExpertParallelism(EP)而不是TensorParallelism(TP)? 我...

01 知识图谱与大模型的特点和互补性 知识图谱的独特性： 知识组织：它通过实体及其关联关系构建的三元组结构，系统性地呈现了知识体系的拓扑形态。 数据可信度：知识图谱整合的信...

什么是微调? 微调就是在已经训练好的大模型基础上，用你自己的数据继续训练，让模型更符合你的特定需求。 CPT(ContinualPre-Training)继续预训练最基础的...

前段时间在AI圈掀起了一个颇具争议的话题：大模型Agent是否仅仅是精心设计的Prompt组合？ 以Manus为代表的智能Agent系统，其核心能力是否主要依赖于通过精巧的...

01 大模型的对齐是什么? 简单来说，对齐指的是让大语言模型的行为、输出和决策方式与其设计者(人类操作者)的意图、价值观和指令保持一致的过程。 举个例子： 想象你养了一只非...