引言
在构建现代AI应用时,选择一个强大的数据库和工具集是至关重要的。Supabase,作为一个开源的Firebase替代方案,基于PostgreSQL提供了强大的SQL查询能力,同时支持与现有工具和框架的无缝集成。本文将介绍如何利用Supabase和pgvector开发AI应用。我们将展示如何使用Supabase提供的工具存储、索引和查询您的向量嵌入。此外,还将结合Langchain库,展示如何构建一个自我查询检索器(SelfQueryRetriever)来进行内容检索。
主要内容
创建Supabase数据库
要开始使用Supabase,首先需要设置一个Supabase数据库。请访问database.new以便为您的项目创建数据库。
启用pgvector扩展
在Supabase的Studio中,进入SQL编辑器,然后运行以下脚本以启用pgvector扩展并设置您的数据库作为向量存储:
-- Enable the pgvector extension to work with embedding vectors
create extension if not exists vector;
-- Create a table to store your documents
create table
documents (
id uuid primary key,
content text,
metadata jsonb,
embedding vector (1536) -- 1536 works for OpenAI embeddings, change if needed
);
-- Create a function to search for documents
create function match_documents (
query_embedding vector (1536),
filter jsonb default '{}'
) returns table (
id uuid,
content text,
metadata jsonb,
similarity float
) language plpgsql as $$
#variable_conflict use_column
begin
return query
select
id,
content,
metadata,
1 - (documents.embedding <=> query_embedding) as similarity
from documents
where metadata @> filter
order by documents.embedding <=> query_embedding;
end;
$$;
创建和填充Supabase向量存储
接下来,我们将利用Langchain和OpenAI的API来创建一个向量存储,并填充一些示例数据。确保安装这些必要的Python包:
%pip install --upgrade --quiet langchain langchain-openai tiktoken lark supabase python-dotenv
配置API密钥
由于某些地区的网络限制,开发者可能需要考虑使用API代理服务。设置如下环境变量以确保API访问稳定:
import getpass
import os
os.environ["SUPABASE_URL"] = getpass.getpass("Supabase URL:")
os.environ["SUPABASE_SERVICE_KEY"] = getpass.getpass("Supabase Service Key:")
os.environ["OPENAI_API_KEY"] = getpass.getpass("OpenAI API Key:")
或者通过.env文件来管理这些密钥:
from dotenv import load_dotenv
load_dotenv()
构建自我查询检索器(SelfQueryRetriever)
使用以下代码构建并测试自我查询检索器:
from langchain_community.vectorstores import SupabaseVectorStore
from langchain_core.documents import Document
from langchain_openai import OpenAIEmbeddings
from supabase.client import Client, create_client
# Setup Supabase client
supabase_url = os.environ.get("SUPABASE_URL")
supabase_key = os.environ.get("SUPABASE_SERVICE_KEY")
supabase: Client = create_client(supabase_url, supabase_key)
# Create embeddings instance
embeddings = OpenAIEmbeddings()
# Example documents
docs = [
Document(
page_content="A bunch of scientists bring back dinosaurs and mayhem breaks loose",
metadata={"year": 1993, "rating": 7.7, "genre": "science fiction"},
),
# Add more documents as needed
]
# Create vector store
vectorstore = SupabaseVectorStore.from_documents(
docs,
embeddings,
client=supabase,
table_name="documents",
query_name="match_documents",
)
# Setup and instantiate the retriever
from langchain.chains.query_constructor.base import AttributeInfo
from langchain.retrievers.self_query.base import SelfQueryRetriever
from langchain_openai import OpenAI
metadata_field_info = [
AttributeInfo(
name="genre",
description="The genre of the movie",
type="string or list[string]",
),
# Add more metadata fields as needed
]
document_content_description = "Brief summary of a movie"
llm = OpenAI(temperature=0)
retriever = SelfQueryRetriever.from_llm(
llm, vectorstore, document_content_description, metadata_field_info, verbose=True
)
# Test the retriever
results = retriever.invoke("What are some movies about dinosaurs")
print(results)
常见问题和解决方案
访问API不稳定?
某些地区的网络可能导致无法访问Supabase或OpenAI API。可以考虑使用API代理服务来解决此问题,以提高访问的稳定性。
如何处理向量维度不匹配?
确保您在数据库和代码中设置的向量维度一致。例如,OpenAI的嵌入通常是1536维的。
总结和进一步学习资源
Supabase结合PostgreSQL和pgvector扩展,使得构建基于向量的数据库应用变得简单且高效。通过本文的介绍,您可以动手实现一个基础的AI应用,并且可以探索更多的功能来完善您的项目。
进一步学习资源
参考资料
如果这篇文章对你有帮助,欢迎点赞并关注我的博客。您的支持是我持续创作的动力!
---END---