**如何为你的聊天机器人添加聊天历史功能**

用户838128610330
185 阅读3分钟 
# 引言
在开发问答应用时，我们通常希望允许用户与应用进行来回对话。这意味着应用需要某种“记忆”功能来记录过去的问题和答案，并运用这些历史记录进行当前的对话。本指南将介绍如何在应用中结合历史消息的逻辑。

我们将探讨两种方法：
1. 使用检索步骤的链式方法。
2. 通过代理让大语言模型（LLM）决定是否以及如何执行检索步骤。

对于外部知识来源，我们将使用Lilian Weng在RAG教程中的LLM自主代理博客文章作为示例。

# 主要内容

## 1. 环境设置
首先，我们需要安装一些依赖库。我们将使用OpenAI的embedding和Chroma向量存储。

```python
%%capture --no-stderr
%pip install --upgrade --quiet langchain langchain-community langchain-chroma bs4

确保设置环境变量OPENAI_API_KEY，可以直接设置或通过.env文件加载：

import getpass
import os

if not os.environ.get("OPENAI_API_KEY"):
    os.environ["OPENAI_API_KEY"] = getpass.getpass()

2. 创建历史感知检索器

为了在对话中使用上下文，LangChain提供了create_history_aware_retriever构造函数，这可以帮助我们创建一个能够接受input和chat_history作为输入的链。

LLM设置

我们可以选择多个支持的聊天模型，如OpenAI、Anthropic等。

from langchain_openai import ChatOpenAI

llm = ChatOpenAI(model="gpt-4o-mini")

检索器设置

我们将使用WebBaseLoader加载网页内容，并用Chroma向量存储进行检索。

import bs4
from langchain_chroma import Chroma
from langchain_community.document_loaders import WebBaseLoader

loader = WebBaseLoader(
    web_paths=("https://lilianweng.github.io/posts/2023-06-23-agent/",),
    bs_kwargs=dict(
        parse_only=bs4.SoupStrainer(
            class_=("post-content", "post-title", "post-header")
        )
    ),
)
docs = loader.load()

3. 组装链

我们将历史感知检索器和问答链连接起来。

from langchain.chains import create_retrieval_chain, create_stuff_documents_chain
from langchain_core.prompts import ChatPromptTemplate, MessagesPlaceholder

contextualize_q_system_prompt = (
    "Given a chat history and the latest user question "
    "which might reference context in the chat history, "
    "formulate a standalone question which can be understood "
    "without the chat history. Do NOT answer the question, "
    "just reformulate it if needed and otherwise return it as is."
)

contextualize_q_prompt = ChatPromptTemplate.from_messages(
    [
        ("system", contextualize_q_system_prompt),
        MessagesPlaceholder("chat_history"),
        ("human", "{input}"),
    ]
)

代码示例

以下是如何使用这些构造的简单示例：

from langchain_core.runnables.history import RunnableWithMessageHistory

store = {}

def get_session_history(session_id: str):
    if session_id not in store:
        store[session_id] = ChatMessageHistory()
    return store[session_id]

conversational_rag_chain = RunnableWithMessageHistory(
    rag_chain,
    get_session_history,
    input_messages_key="input",
    history_messages_key="chat_history",
    output_messages_key="answer",
)

response = conversational_rag_chain.invoke(
    {"input": "What is Task Decomposition?"},
    config={"configurable": {"session_id": "abc123"}},
)["answer"]
print(response)

常见问题和解决方案

总结和进一步学习资源

通过本文，我们了解了如何使用链式模型和代理结合来构建一个具备对话记忆的问答应用。若深入了解不同的检索策略和代理模块，可以查看以下资源：

参考资料

  • LangChain GitHub项目
  • RAG教程及相关博客文章

如果这篇文章对你有帮助，欢迎点赞并关注我的博客。您的支持是我持续创作的动力！


---END---
avatar
文章
阅读
粉丝