[如何使用Supabase和Postgres构建AI应用:从零开始的向量存储与检索]

6 阅读3分钟
# 如何使用Supabase和Postgres构建AI应用:从零开始的向量存储与检索

## 引言

在现代应用开发中,处理和存储大量数据的需求日益增加。Supabase作为一个开源的Firebase替代品,构建在PostgreSQL之上,为开发者提供了一系列强大的SQL查询能力和现有工具的易用接口。本文将深入探讨如何利用Supabase和pgvector扩展来创建一个向量存储,支持AI应用的开发。

## 主要内容

### 1. 创建Supabase数据库

首先,前往 [https://database.new](https://database.new) 创建一个Supabase数据库。然后,进入SQL编辑器,运行以下脚本启用pgvector扩展,并设置数据库作为向量存储:

```sql
-- 启用pgvector扩展以处理嵌入向量
create extension if not exists vector;

-- 创建用于存储文档的表
create table documents (
    id uuid primary key,
    content text, -- 文档内容
    metadata jsonb, -- 文档元数据
    embedding vector (1536) -- 嵌入向量,1536适用于OpenAI嵌入
);

-- 创建用于搜索文档的函数
create function match_documents (
    query_embedding vector (1536),
    filter jsonb default '{}'
) returns table (
    id uuid,
    content text,
    metadata jsonb,
    similarity float
) language plpgsql as $$
#variable_conflict use_column
begin
    return query
    select
        id,
        content,
        metadata,
        1 - (documents.embedding <=> query_embedding) as similarity
    from documents
    where metadata @> filter
    order by documents.embedding <=> query_embedding;
end;
$$;

2. 创建Supabase向量存储并加载数据

我们需要安装必要的Python包来与Supabase和OpenAI交互:

%pip install --upgrade --quiet langchain langchain-openai tiktoken
%pip install --upgrade --quiet lark
%pip install --upgrade --quiet supabase

加载API密钥:

import getpass
import os

os.environ["SUPABASE_URL"] = getpass.getpass("Supabase URL:")
os.environ["SUPABASE_SERVICE_KEY"] = getpass.getpass("Supabase Service Key:")
os.environ["OPENAI_API_KEY"] = getpass.getpass("OpenAI API Key:")

创建Supabase客户端并初始化OpenAI嵌入类:

from langchain_community.vectorstores import SupabaseVectorStore
from langchain_core.documents import Document
from langchain_openai import OpenAIEmbeddings
from supabase.client import Client, create_client

supabase_url = os.environ.get("SUPABASE_URL")
supabase_key = os.environ.get("SUPABASE_SERVICE_KEY")
supabase: Client = create_client(supabase_url, supabase_key)

embeddings = OpenAIEmbeddings()

创建并加载文档到向量存储:

docs = [
    Document(
        page_content="A bunch of scientists bring back dinosaurs and mayhem breaks loose",
        metadata={"year": 1993, "rating": 7.7, "genre": "science fiction"},
    ),
    # 其他文档...
]

vectorstore = SupabaseVectorStore.from_documents(
    docs,
    embeddings,
    client=supabase,
    table_name="documents",
    query_name="match_documents",
    # 使用API代理服务提高访问稳定性
)

3. 构建和测试自查询检索器

此步骤涉及创建包含元数据字段信息的自查询检索器:

from langchain.chains.query_constructor.base import AttributeInfo
from langchain.retrievers.self_query.base import SelfQueryRetriever
from langchain_openai import OpenAI

metadata_field_info = [
    # 定义元数据字段信息
]
document_content_description = "Brief summary of a movie"
llm = OpenAI(temperature=0)
retriever = SelfQueryRetriever.from_llm(
    llm, vectorstore, document_content_description, metadata_field_info, verbose=True
)

代码示例

以下是一个完整的检索示例:

# 通过检索器查询关于恐龙的电影
retriever.invoke("What are some movies about dinosaurs")

常见问题和解决方案

  1. API访问问题:某些地区可能存在网络限制,建议使用API代理服务。
  2. 数据一致性问题:确保数据库脚本执行成功且无错误。

总结和进一步学习资源

Supabase结合Postgres和pgvector扩展为AI应用提供了强大的数据存储和检索能力。以上配置可以用于创建高效的数据驱动应用。推荐查看Supabase和PostgreSQL官方文档以获取更多深入知识。

参考资料

  1. Supabase官方文档
  2. PostgreSQL官方文档
  3. pgvector GitHub仓库

如果这篇文章对你有帮助,欢迎点赞并关注我的博客。您的支持是我持续创作的动力!


---END---