在人工智能的浩瀚星海中，大语言模型（LLM）犹如新星般璀璨夺目，引领着智能技术的潮流。自 OpenAI 推出 ChatGPT 以来，个性化智能助手的构想已不再是科幻，而是触手可及的现实。LlamaIndex 与 LangChain，两大框架如同双星系统，以其独特的光芒照亮了定制化 AI 应用的开发之路。本文将带您穿梭于这两个框架的星际之间，探索它们如何助力开发者点亮个性化智能助手的星光。
引言
大语言模型是这个时代最重要的创新人工智能技术之一。早在 2022 年 11 月，OpenAI 发布了其自有的生成式人工智能聊天机器人，引起了人们对这类尖端技术应用的热议和兴趣。在看到 ChatGPT 的奇迹后，企业、开发者和个人都希望拥有自己定制版的 ChatGPT。这导致对促进生成式人工智能模型开发、集成和管理的工具和框架的需求激增。
在如此明显的市场空白中，有两个突出的框架正在领跑：LlamaIndex 和 LangChain。然而，这两个框架的目标都是帮助开发者创建自己的自定义 LLM 应用。每个框架都有其自身的优缺点。本文旨在揭示 LlamaIndex 和 LangChain 之间的主要区别，帮助您为特定用例选择合适的框架。
LlamaIndex
介绍
LlamaIndex 是一个用于索引和查询 LLMs 的框架，基于自定义数据。它通过各种数据源连接数据，例如结构化数据（如关系型数据库）、非结构化数据（如 NoSQL 数据库）和半结构化数据（如 Salesforce CRM 数据）。尽管每个人的数据是专有的，但它可以被索引成可被最新的 LLM 理解的嵌入，这样就不需要重新训练模型。
如何工作
LlamaIndex 使 LLM 的下一层定制变得更加简单。它将您的专有数据嵌入到内存中，使模型在提供基于上下文的响应方面不断提高。LlamaIndex 将大语言模型转变为领域知识专家；可以充当 AI 助手或对话聊天机器人，根据真实信息来源（例如包含仅销售负责人能够回答的业务特定信息的 PDF 文档）回答个性化问题。
为了根据专有数据定制LLMs，LlamaIndex 使用了一种称为检索增强生成（RAG）的技术。RAG 主要由两个关键阶段组成：
- 索引阶段：专有数据有效地转换为向量索引。在索引阶段，数据被转换为具有语义意义的向量嵌入或数值表示。
- 查询阶段：在此阶段，每当系统收到查询时，将以信息块的形式返回与之语义相似度最高的查询。这些信息块连同原始提示查询一起被发送到 LLM 以获取最终响应。通过这个机制，RAG 可以生成高度准确和相关的输出，而这在 LLM 基础知识下是无法实现的。
应用示例
关于 LlamaIndex 的应用示例可以参考：
LlamaIndex：PDF文档的知识图谱构建之旅
juejin.cn/post/739998…
LangChain
介绍
LangChain 是另一个用于基于自定义数据源构建量身定制的 LLM 的框架。LangChain 可以连接来自各种来源的数据，如关系数据库（如表格数据）、非关系数据库（如文档）、程序化来源（如 API）或甚至自定义知识库。
LangChain 利用形成链条的机制，这些链条只是一系列发送到 LLM 的请求，与其他集成工具结合在一起，其中一个步骤的输出被前馈成为下一个步骤的输入。
LangChain 可以处理用户专有数据，并确保从中提供相关的上下文给 LLM 以生成适当的响应。无论是为公司的数据定制的问答聊天机器人、内部分析工具，还是与用户数据源协同工作的 AI 助手，LangChain 都内置了链式机制，帮助开发者将其他工具集成到 LLM 应用中并将它们串联起来，这有助于构建一个更全面的系统。
如何工作
LangChain 具有以下相关组件：
- Prompt 是用户给模型的推动，以获得期望的输出和响应。
- LangChain 为用户提供了一个界面，可以随时更改语言模型，并轻松进行切换。LangChain 的功能支持一些最新的 LLM，如 GPT-4、Gemini 1.5 pro、Claude 3.5 等。
- LangChain 利用索引技术，如嵌入、内存向量存储等，使得连接各种组件变得简单。
- LangChain 提供了一系列 AI 代理，可以帮助用户为其分配任务和工具。
应用示例
关于 LangChain 的应用示例可以参考：
LangChain：自然语言处理新范式
juejin.cn/post/729158…
LlamaIndex 与 LangChain 的最佳使用案例
LlamaIndex
- 构建基于查询和搜索的信息检索系统，该系统具有特定的知识基础
- 开发一个问答聊天机器人，能够仅提供与用户查询相关的信息片段作为回应
- 大型文档摘要、文本补全、语言翻译等
LangChain
- 构建端到端的对话聊天机器人和人工智能代理
- 将自定义工作流程集成到 LLM 中
- 通过 API 和其他数据源为LLMs扩展数据连接选项
Langchain 和 LlamaIndex 的联合用例
- 构建专家 AI 代理：LangChain 可以整合多种数据源，而 LlamaIndex 可以基于相似语义搜索的能力，更快地策划、总结和生成响应。
- 先进的研发工具：使用 LangChain 的链式管理工具和工作流程，同时利用 LlamaIndex 生成更具上下文意识的LLM并获得最相关的回应。
选择合适的框架
以下是选择合适框架之前需要提出的一些重要问题：
- 项目要求是什么？ 对于原始应用程序：索引、查询搜索和检索，可以选择 LlamaIndex。但对于需要集成自定义工作流程的应用程序，LangChain 是更好的选择。
- 使用起来有多简单和可访问？ 虽然 LlamaIndex 提供了一个更简单的界面，但 LangChain 需要对 NLP 概念和组件有更深入的理解。
- 想进行多少自定义？ LangChain 具有模块化设计，使自定义和工具集成变得简单，然而，LlamaIndex 更多的是一个基于搜索和检索的框架。
LangChain 的主要重点是LLMs的开发和部署，以及使用微调方法对LLMs进行定制。然而，LlamaIndex 旨在提供端到端的机器学习工作流程，以及数据管理和模型评估。LlamaIndex 对于高度专业化的 NLP 任务不太合适。相反，LangChain 可能过于复杂，无法解决实际上不需要高级语言模型能力的机器学习工作流程。
LlamaIndex 对初学者更为适合，因为它的实现简单直观。与此相反，LangChain 需要对 LLMs 和 NLP 概念有更深入的理解。
结语
经过对 LlamaIndex 与 LangChain 的深入剖析，我们得以洞察这两个框架在定制化 AI 应用构建中的独到之处。LlamaIndex 以其高效的信息索引与检索能力，为精准数据探索提供了可能；而LangChain 则以其灵活的模块化设计，为复杂任务的集成与执行铺平了道路。在智能助手的构建之旅中，选择并非非此即彼，而是根据项目的具体需求，发挥每个框架的最大潜力。让我们以开放的心态，拥抱技术的多样性，共同迎接个性化智能助手的新时代。
