[解锁Supabase:使用Postgres和pgvector构建强大的AI应用]

278 阅读3分钟

引言

在构建现代AI应用时,选择一个强大的数据库和工具集是至关重要的。Supabase,作为一个开源的Firebase替代方案,基于PostgreSQL提供了强大的SQL查询能力,同时支持与现有工具和框架的无缝集成。本文将介绍如何利用Supabase和pgvector开发AI应用。我们将展示如何使用Supabase提供的工具存储、索引和查询您的向量嵌入。此外,还将结合Langchain库,展示如何构建一个自我查询检索器(SelfQueryRetriever)来进行内容检索。

主要内容

创建Supabase数据库

要开始使用Supabase,首先需要设置一个Supabase数据库。请访问database.new以便为您的项目创建数据库。

启用pgvector扩展

在Supabase的Studio中,进入SQL编辑器,然后运行以下脚本以启用pgvector扩展并设置您的数据库作为向量存储:

-- Enable the pgvector extension to work with embedding vectors
create extension if not exists vector;

-- Create a table to store your documents
create table
  documents (
    id uuid primary key,
    content text,
    metadata jsonb,
    embedding vector (1536) -- 1536 works for OpenAI embeddings, change if needed
  );

-- Create a function to search for documents
create function match_documents (
  query_embedding vector (1536),
  filter jsonb default '{}'
) returns table (
  id uuid,
  content text,
  metadata jsonb,
  similarity float
) language plpgsql as $$
#variable_conflict use_column
begin
  return query
  select
    id,
    content,
    metadata,
    1 - (documents.embedding <=> query_embedding) as similarity
  from documents
  where metadata @> filter
  order by documents.embedding <=> query_embedding;
end;
$$;

创建和填充Supabase向量存储

接下来,我们将利用Langchain和OpenAI的API来创建一个向量存储,并填充一些示例数据。确保安装这些必要的Python包:

%pip install --upgrade --quiet langchain langchain-openai tiktoken lark supabase python-dotenv

配置API密钥

由于某些地区的网络限制,开发者可能需要考虑使用API代理服务。设置如下环境变量以确保API访问稳定:

import getpass
import os

os.environ["SUPABASE_URL"] = getpass.getpass("Supabase URL:")
os.environ["SUPABASE_SERVICE_KEY"] = getpass.getpass("Supabase Service Key:")
os.environ["OPENAI_API_KEY"] = getpass.getpass("OpenAI API Key:")

或者通过.env文件来管理这些密钥:

from dotenv import load_dotenv

load_dotenv()

构建自我查询检索器(SelfQueryRetriever)

使用以下代码构建并测试自我查询检索器:

from langchain_community.vectorstores import SupabaseVectorStore
from langchain_core.documents import Document
from langchain_openai import OpenAIEmbeddings
from supabase.client import Client, create_client

# Setup Supabase client
supabase_url = os.environ.get("SUPABASE_URL")
supabase_key = os.environ.get("SUPABASE_SERVICE_KEY")
supabase: Client = create_client(supabase_url, supabase_key)

# Create embeddings instance
embeddings = OpenAIEmbeddings()

# Example documents
docs = [
    Document(
        page_content="A bunch of scientists bring back dinosaurs and mayhem breaks loose",
        metadata={"year": 1993, "rating": 7.7, "genre": "science fiction"},
    ),
    # Add more documents as needed
]

# Create vector store
vectorstore = SupabaseVectorStore.from_documents(
    docs,
    embeddings,
    client=supabase,
    table_name="documents",
    query_name="match_documents",
)

# Setup and instantiate the retriever
from langchain.chains.query_constructor.base import AttributeInfo
from langchain.retrievers.self_query.base import SelfQueryRetriever
from langchain_openai import OpenAI

metadata_field_info = [
    AttributeInfo(
        name="genre",
        description="The genre of the movie",
        type="string or list[string]",
    ),
    # Add more metadata fields as needed
]

document_content_description = "Brief summary of a movie"
llm = OpenAI(temperature=0)
retriever = SelfQueryRetriever.from_llm(
    llm, vectorstore, document_content_description, metadata_field_info, verbose=True
)

# Test the retriever
results = retriever.invoke("What are some movies about dinosaurs")
print(results)

常见问题和解决方案

访问API不稳定?

某些地区的网络可能导致无法访问Supabase或OpenAI API。可以考虑使用API代理服务来解决此问题,以提高访问的稳定性。

如何处理向量维度不匹配?

确保您在数据库和代码中设置的向量维度一致。例如,OpenAI的嵌入通常是1536维的。

总结和进一步学习资源

Supabase结合PostgreSQL和pgvector扩展,使得构建基于向量的数据库应用变得简单且高效。通过本文的介绍,您可以动手实现一个基础的AI应用,并且可以探索更多的功能来完善您的项目。

进一步学习资源

参考资料

  1. supabase.io/docs
  2. www.postgresql.org/docs/
  3. docs.langchain.com/

如果这篇文章对你有帮助,欢迎点赞并关注我的博客。您的支持是我持续创作的动力!

---END---