本文详细解析了Transformer整体模型结构，并深入分析了各个layer层的原理及给出了计算公式，针对每个 layer、block 都给出了较为详细的代码实现方便深入理解网络结构。

因为大家也都会好奇，程序是死板的代名词，是人类编的指令，它只会按照设定的代码，一步一步地去执行。它怎么能产生智慧呢？

向量数据库和 Embedding 是现在 AI 领域的热门话题。 最近，为 ChatGPT 等生成式 AI 应用提供向量搜索、向量数据存储、向量嵌入等功能的向量数据库赛道突然走红

流程 整个流程非常简单，也没有复杂的地方，相信关注GPT领域的都会看到过如上的流程。 主要就以下几个点： 将本地答案数据集，转为向量存储到向量数据 当用户输入查询的问题时，把问题转为向量然后从向量数据