AI学习手札

我们知道 LangChain是一个用于构建由 LLM 提供支持的代理和应用程序的框架。Langchain中的 Data Connection模块正是对RAG流程的封装。

我们以往在使用豆包或者DeepSeek时，在一些长的上下文环境中AI模型是可以记住我们之前提供的一些信息的。那么，AI大模型是怎么记忆这些信息的。 我们先从一段简单的代码入手看看...

那么我们的Langchain程序怎么才能被用户正常使用呢？也就是怎么把AI原型转化为企业级API？LangServe正是解决了这样一个非常具体的痛点：AI原型到生产服务的"最后一公里"问题。

LCEL (LangChain Expression Language)** ：这是框架的**声明式组合语法**，解决“如何更优雅、更健壮地构建和调用上述链”的问题。

Result Parser 上一篇 学习了什么是langchain和prompt templete。那么如何将大模型自由、非结构化的文本输出，转化为程序可稳定、高效处理的结构化数据？

提出问题 前面学习RAG时候调用向量检索来获取top_k相似度的向量块，那么内部究竟是怎么进行检索的？难道就是从零到N的暴力遍历吗？那么当向量块数据集达到上百亿的时候怎么办？

信息检索领域中常用的三种检索技术有： 关键字检索（简单的关键字匹配)，全文检索，向量相似度检索。 现在，我们就使用”全文检索 + 向量检索“结合的混合检索方式来现一个简单的医疗知识检索系统。

向量数据库-Chroma 基础语法：创建db、添加collection、add_documents RAG+LLM流程(代码) 向量数据库

RAG回顾 回顾一下上次的RAG原理图，上次讲了RAG是怎么分分块的。分块之后存储之前还有重要的一步就是向量化。 向量化 向量检索：根据用户的输入，与向量数据库中存放的文本向量进行相似度计算匹配

为啥需要RAG LLM本质上是一个基于海量数据训练的概率模型。目前其本身存在一定的局限性： 时效性。训练是有成本的，不可能随时更新训练。所以需要RAG来解决这些问题。

LangChain是一个用于构建由 LLM 提供支持的代理和应用程序的框架。LangChain 是⼀个开源框架，它允许开发⼈员将像通义千问、DeepSeek这样的⼤语⾔模型与外部的系统和数据源结合起来

回顾 前面已经用了4篇文章讲了大模型原理，这一篇整体全链路回顾一下。github也供了了一个Transformer可视化的Web页面。在整体理解了Transformer原理后可以打开这个网站看看流程。

Prompt 大模型的“启动密码”。语言模型（LLM）的一段文本输入，用于引导和约束模型的输出。LLM本质上是一个基于海量数据训练的概率模型。Prompt的作用是激活和引导模型内部的相关知识分布

掩码注意力 交叉注意力 Attention(QKV) 🌰回顾 前面几篇分别分享了AI大模型是怎么理解人类词汇和语言的，也分析了大模型为啥每次回答得不一样。那么大模型到底是怎么得出答案的呢？

前置条件 上一篇 入坑大模型微调第一个Hugging Face程序 主要介绍了 Hugging Face及其使用方式。是我们后续做大模型微调训练的基础。不了解的可以再回顾一下。

引出问题 上一篇 我们讲了大模型是怎么理解人类语言的词汇的。今天继续探究一下，AI大模型师怎么把这些词汇串起来理解的。 Transformer 当前的AI大模型基本是基于Transformer框架的，

有被震惊到 昨天才看了个电影《极限审判》，和朋友讨论了AI法官权限太大、超越代码逻辑执行、涌现人类思考等问题。不由得感叹AI科技带来的便利和高效，也心里为此而捏了把汗。 今天打开电脑，好家伙AI Ag

基础认知 为什么用 我们做AI应用开发，可能不太需要去做大模型的预训练，但是模型微调还是离不开的。那什么是模型微调呢？ 类似于"站在巨人肩膀上"——预训练模型通过海量数据已学习通用知识（如语言规律、图

chatGPT爆火以来，AI如火如荼地开始出现在普通人的视野中。但是事实上，AI这个概念在上世纪五十

好奇心会不会害死猫？ 我们上篇讲了 是什么决定AI大模型的输出，那么当我们输入一段话时，AI大模型又是怎么读懂我们的人类语言的？ 我们无论是使用ChatGPT，还是DeepSeek、豆包、通义等AI智