构建一个检索增强生成(RAG)应用

用户150378278425
81 阅读3分钟

引言

在大语言模型(LLMs)不断发展的今天，构建复杂的问答(Q&A)聊天机器人成为了一个令人兴奋的应用场景。这些应用能够回答关于特定信息源的问题，并利用一种称为检索增强生成(RAG)的技术来增强模型的知识。本文将展示如何建立一个简单的Q&A应用程序，基于一个文本数据源进行检索和回答问题。同时，我们会介绍典型的Q&A体系结构，并提供针对更高级Q&A技术的额外资源。随着应用程序的复杂性增长，LangSmith能够帮助我们追踪和理解应用程序的运行。

主要内容

什么是RAG？

RAG是一种通过附加数据增强LLM知识的方法。尽管LLM可以处理广泛的话题，但其知识仅限于训练时能获取的公开数据。如果你需要构建能够处理私有数据或模型截断日期之后的数据的AI应用，你需要通过RAG技术为模型提供这些特定数据。RAG应用通常包括两个主要组件：

  • 索引： 这是一个用于从源头获取数据并进行索引的管道，通常在离线进行。
  • 检索和生成： 该部分在运行时接收用户查询，检索相关数据并传递给模型进行回答。

索引过程

  1. 加载数据： 使用Document Loaders加载数据。
  2. 拆分文本： 使用文本拆分器（如RecursiveCharacterTextSplitter）将大文件拆分为较小的片段。
  3. 存储： 将数据存储和索引，通常使用VectorStore和Embeddings模型。

检索和生成过程

  1. 检索： 给定用户输入，使用Retriever从存储中检索相关数据。
  2. 生成： 使用模型生成回答，包含问题及检索到的数据。

代码示例

下面是一个完整的示例，我们将构建一个简单的Q&A应用，回答关于一个网页内容的问题。

# 使用API代理服务提高访问稳定性
import os
import getpass
from langchain_community.document_loaders import WebBaseLoader
from langchain_text_splitters import RecursiveCharacterTextSplitter
from langchain_chroma import Chroma
from langchain_openai import OpenAIEmbeddings, ChatOpenAI
from langchain import hub
from langchain_core.output_parsers import StrOutputParser
from langchain_core.runnables import RunnablePassthrough

# 设置API密钥
os.environ["OPENAI_API_KEY"] = getpass.getpass("Enter your OpenAI API Key: ")

# 加载并索引数据
loader = WebBaseLoader(
    web_paths=("https://lilianweng.github.io/posts/2023-06-23-agent/",),
    bs_kwargs=dict(parse_only=bs4.SoupStrainer(class_=("post-content", "post-title", "post-header")))
)
docs = loader.load()
text_splitter = RecursiveCharacterTextSplitter(chunk_size=1000, chunk_overlap=200)
splits = text_splitter.split_documents(docs)
vectorstore = Chroma.from_documents(documents=splits, embedding=OpenAIEmbeddings())

# 检索和生成回答
retriever = vectorstore.as_retriever()
prompt = hub.pull("rlm/rag-prompt")
llm = ChatOpenAI(model="gpt-4o-mini")

def format_docs(docs):
    return "\n\n".join(doc.page_content for doc in docs)

rag_chain = (
    {"context": retriever | format_docs, "question": RunnablePassthrough()}
    | prompt
    | llm
    | StrOutputParser()
)

response = rag_chain.invoke("What is Task Decomposition?")
print(response)

常见问题和解决方案

  1. 访问速度慢或不稳定： 由于某些地区的网络限制，可能需要使用API代理服务来提高访问的稳定性。
  2. 索引数据量大： 对于大规模数据，建议在本地进行索引处理，以减少对在线服务的依赖。
  3. 生成结果不准确： 可以通过调试和增加训练数据以及优化检索策略来提高准确性。

总结和进一步学习资源

通过本文的介绍和示例代码，大家应该对如何构建一个简单的RAG应用有了一定的了解。对于希望进一步深入学习的开发者，以下资源将会很有帮助：

参考资料

  1. LangChain 官方文档: docs.langchain.com/
  2. LangSmith 官方网站: www.langsmith.com/
  3. BeautifulSoup 文档: www.crummy.com/software/Be…

如果这篇文章对你有帮助，欢迎点赞并关注我的博客。您的支持是我持续创作的动力！ ---END---

avatar
文章
阅读
粉丝