动态传递运行时值：如何在LangChain工具中保持灵活与安全
随着AI技术的不断发展，我们在开发应用程序时需要解决的一个关键挑战是如何安全地处理运行时动态参数。例如，在使用工具的过程中，可能需要使用请求来源用户的ID，而这些值在运行时才知道。本篇文章将深入探讨如何在LangChain中安全地注入这些值。
1. 引言
在使用AI模型和工具时，我们经常遇到需要在运行时传入动态值的情况。这些值不应该由生成强大的语言模型（LLM）来控制，因为这可能带来安全隐患。相反，应用逻辑应该负责固定这些参数。本篇文章的目的是展示如何在LangChain中防止模型生成某些工具参数，并在运行时直接注入它们。
2. 主要内容
2.1 什么是LangChain？
LangChain是一个用于构建基于大型语言模型应用的框架，允许开发者轻松创建和管理工具集成。
2.2 动态参数的重要性
工具逻辑可能需要在运行时获取参数，如用户的ID等，这些信息通常在请求到达后才能获得。
2.3 保护参数的安全性
允许LLM控制某些敏感参数（如用户ID）的生成可能导致安全性问题，因此需要通过代码逻辑来保护这些参数。
2.4 实现方案
我们可以使用InjectedToolArg注解来标记某些参数，使其在运行时由应用逻辑注入，而不由LLM生成。
3. 代码示例
以下是实现动态参数传递的示例代码。我们使用InjectedToolArg来确保用户ID在运行时由我们注入：
from typing import List
from typing_extensions import Annotated
from langchain_core.tools import InjectedToolArg, tool
# 模拟用户与宠物的字典
user_to_pets = {}
@tool(parse_docstring=True)
def update_favorite_pets(pets: List[str], user_id: Annotated[str, InjectedToolArg]) -> None:
"""更新用户喜爱的宠物列表。
Args:
pets: 喜爱的宠物列表。
user_id: 用户的ID。
"""
user_to_pets[user_id] = pets
4. 常见问题和解决方案
4.1 为什么需要在运行时注入用户ID？
用户ID通常是敏感信息，不应在模型生成过程中由LLM处理。注入确保了控制权在应用逻辑手中。
4.2 如何确保模型调用时不生成用户ID？
通过tool_call_schema，我们可以观察到user_id在模型调用时已经被排除，从而保证安全。
5. 总结和进一步学习资源
在这篇文章中，我们探讨了如何使用LangChain中的工具来注入动态运行时参数，并保持安全性。对于想要了解更多LangChain和AI工具整合的开发者，以下资源可能会有所帮助：
6. 参考资料
- LangChain工具文档
- Python标准库
**结束语：**如果这篇文章对你有帮助，欢迎点赞并关注我的博客。您的支持是我持续创作的动力！
---END---
