本地大模型编程实战

在与 `LLM(大语言模型)` 对话时，如果每次都等 `LLM` 处理完毕再返回给客户端，会显得比较卡顿。如何能够像主流的AI平台那样：可以一点一点吐出字符呢？ 本文将模仿后端流式输出文字。

`LangGraph` 提供了 `map-reduce` 工作流，它先把大文本拆成小文档分别提取摘要，然后再提炼/压缩提取的摘要，直到最后提取的摘要的token长度满足既定要求。

本文将演练如何使用 LLM(大语言模型) 提取文本摘要。从文本中提取摘要的核心问题是如何将文档传递到 `LLM` 的提示词中。

本文将基于`langgraph` 框架，用`LLM(大语言模型)`查询图数据库`NEO4J`。它可以定义清晰复杂的工作流，能应对比较复杂的应用场景。

`Neo4j`是一个高性能的`NOSQL`图形数据库，它将结构化数据存储在网络上而不是表中。本文讲述了在如何在`windows`系统中安装`NEO4J`。

本文将基于langchain 框架，用LLM(大语言模型)查询图数据库NEO4J。使用 `qwen2.5` 做实验。

对于 LLM(大语言模型)，流式传输已成为一种越来越受欢迎的功能。其理念是在 LLM 生成令牌时就快速返回，而不是等待创建完整响应后再返回全部内容。

本文将扩展上一篇文章完成的 `langgraph` 链，继续使用基于 `langgraph` 链 ，对结构化数据库 `SQlite` 进行查询的方法。

本文将演练使用基于 `langgraph` 链 ，对结构化数据库 `SQlite` 进行查询的方法。

本文将实现这样一个 `智能体(Agent)` ： - 可以使用自然语言对 `SQLite` 数据库进行查询。即：用户用自然语言提出问题，智能体也用自然语言根据数据库的查询结果回答问题。

本文将用 `智能体(Agent)` 实现对 `SQLite` 数据库的查询：用户用自然语言提出问题，智能体也用自然语言根据数据库的查询结果回答问题。

我们将演练在使用基于 `langchain` 链 ，在结构化数据库 `SQlite` 中的数据上创建问答系统的基本方法，该系统建立以后，我们用自然语言询问有关数据库中数据的问题并返回自然语言答案。

本文将演练通过两个参数进行知识库的检索。为此会在 `langgraph`链 中增加一个 `analyze_query` 节点，它用来基于用户问题推理检索的参数。

本文将要在上一篇文的此基础上，增加自动记录聊天历史的功能，另外，我们还将使用一个 `Agent(智能体)` 来实现几乎同样的功能。

文将要创建的系统将更加智能：如果在知识库中未找到靠谱的文档，则用 `LLM(大语言模型)` 自身的能力弥补。

本文将使用 `langgraph` 实现一个简单的 `RAG(Retrieval Augmented Generation,检索增强生成)` 系统。

本文将用实际代码演练一个简单的 `RAG(Retrieval Augmented Generation,检索增强生成)` 系统。

本文将基于上一篇文章完善 `Agent(智能体)` ，主要完善的功能有： - 跟踪 `Agent(智能体)` 的执行过程 - 记录消息历史

在上一篇文章中，我们实践了如何使用 `langchain` 创建一个简单的 `ReAct Agent(智能体)`，这次我们升级一下玩法：实现一个可以调用两个 工具 的智能体。

在前面的文章中，我们了解了 `LLM(大语言模型)` 如何使用 `tool(工具)` ，现在我们开始进一步，初探 `Agent(智能体)` 的玩法。