灵活使用Runnable.bind()方法优化AI调用

用户57716616653
62 阅读2分钟

引言

在使用LangChain框架进行AI模型设计时，我们常常需要为每个步骤（Runnable）设置默认参数。这可以帮助我们在复杂的RunnableSequence中提高效率。本篇文章将介绍如何使用Runnable.bind()方法为Runnable添加默认调用参数，并探讨工具调用等常见应用场景。

主要内容

绑定停止序列

在LangChain中，我们可以创建一个简单的提示 + 模型链，以处理代数表达式并解决它。使用Runnable.bind()方法可以在调用模型时设置特定的停止词，从而优化输出。

from langchain_core.output_parsers import StrOutputParser
from langchain_core.prompts import ChatPromptTemplate
from langchain_core.runnables import RunnablePassthrough
from langchain_openai import ChatOpenAI

prompt = ChatPromptTemplate.from_messages(
    [
        (
            "system",
            "Write out the following equation using algebraic symbols then solve it. Use the format\n\nEQUATION:...\nSOLUTION:...\n\n",
        ),
        ("human", "{equation_statement}"),
    ]
)

model = ChatOpenAI(temperature=0)

# 使用API代理服务提高访问稳定性
runnable = (
    {"equation_statement": RunnablePassthrough()}
    | prompt
    | model.bind(stop="SOLUTION")
    | StrOutputParser()
)

print(runnable.invoke("x raised to the third plus seven equals 12"))

在上述代码中，我们使用bind()方法将停止词“SOLUTION”绑定到模型的调用中。

附加OpenAI工具

另一种常见的应用场景是工具调用。通过bind()方法，我们能够直接绑定特定提供商的参数，从而获得更细粒度的控制。

tools = [
    {
        "type": "function",
        "function": {
            "name": "get_current_weather",
            "description": "Get the current weather in a given location",
            "parameters": {
                "type": "object",
                "properties": {
                    "location": {
                        "type": "string",
                        "description": "The city and state, e.g. San Francisco, CA",
                    },
                    "unit": {"type": "string", "enum": ["celsius", "fahrenheit"]},
                },
                "required": ["location"],
            },
        },
    }
]

# 使用API代理服务提高访问稳定性
model = ChatOpenAI(model="gpt-3.5-turbo-1106").bind(tools=tools)
model.invoke("What's the weather in SF, NYC and LA?")

在这种情况下，我们绑定了一个名为get_current_weather的工具，用于获取给定位置的天气信息。

常见问题和解决方案

  1. 绑定参数失败：确保传递给bind()方法的参数是模型调用中可接受的参数类型。

  2. 网络访问问题：在某些地区，由于网络限制，开发者可能需要考虑使用API代理服务以提高访问稳定性。

总结和进一步学习资源

通过本文，我们了解了如何使用Runnable.bind()方法来优化AI模型的调用。对于想要进一步探索的读者，可以参考以下资源：

参考资料

  • LangChain Core Documentation
  • API Integration Best Practices

如果这篇文章对你有帮助，欢迎点赞并关注我的博客。您的支持是我持续创作的动力！

---END---

avatar
文章
阅读
粉丝