大模型技术

Transformer 是一种以 **注意力机制（Attention）** 为核心的序列建模架构，它用“序列中任意位置之间的可学习加权聚合”来替代 RNN 的递归，从而实现更强的并行性与长程依赖建模能

我们为什么要使用RAG： 消除幻觉，提供事实依据： RAG 强制大模型在回答问题前，先去一个可靠的知识库里“查阅资料”。大模型的工作原理是“概率预测”而非“数据库检索”。所以一