本章内容 自回归式 LLM 推理为何低效 解决方案：键值缓存（Key-Value Cache, KV Cache）及其代价 MQA 与 GQA：第一代缓解 KV Cache 内存压力的方案 要理解 D

我们小时候都玩过乐高积木。通过堆砌各种颜色和形状的积木，我们可以构建出城堡、飞机、甚至整个城市。现在，想象一下如果有一个数字世界的乐高，我们可以用这样的“积木”来构建智能程序，这些程序能够阅读、理解和

在大模型发展历程中，有两个比较重要点：第一，Transformer 架构，它是模型的底座。第二，GPT。

本文以传统应用编程设计模式和思维为入口和对比对象，介绍了LangcChain中的Chain、Agent、Callback三大核心概念，通过本文的指导，读者可以迁移在传统应用编程中累积的思维方式和经验.

本文对大模型从原理及结构上做了简单的介绍，希望能给各位在了解大模型的路上提供一些帮助。个人经验有限，说的不对的地方还请及时提出宝贵的意见，也可以联系本人线下讨论。下期会结合我们在财富领域训练大模型的经