动态绑定参数：如何在运行时为LangChain工具注入参数

用户955766060958
62 阅读2分钟

动态绑定参数：如何在运行时为LangChain工具注入参数

在现代应用程序中，灵活地管理和使用参数对于创建动态和响应式的系统至关重要。在这篇文章中，我们将探讨如何在使用LangChain工具时，在运行时动态地为工具注入参数。

引言

在使用LangChain工具时，我们经常需要将某些运行时才知道的参数（如用户ID）传递给工具。直接让语言模型（LLM）控制所有参数可能带来安全风险，因此最好由应用逻辑管理用户ID等敏感参数。本篇文章将详细介绍如何确保这些参数安全地在运行时注入，而非由LLM自动生成。

主要内容

安装必要的软件包

首先，确保你已经安装了必要的软件包。我们使用了langchain-core库，并且确保其版本在0.2.21以上。

pip install -qU langchain-core

使用InjectedToolArg进行参数注入

我们可以使用InjectedToolArg注解来标记工具中的某些参数（比如用户ID），使其在运行时注入，而不是由LLM生成。

from typing import List
from langchain_core.tools import InjectedToolArg, tool
from typing_extensions import Annotated

user_to_pets = {}

@tool(parse_docstring=True)
def update_favorite_pets(pets: List[str], user_id: Annotated[str, InjectedToolArg]) -> None:
    """Add the list of favorite pets."""
    user_to_pets[user_id] = pets

代码示例

以下是一个完整的代码示例，展示了如何在运行时注入参数并调用工具。

user_id = "123"
update_favorite_pets.invoke({"pets": ["lizard", "dog"], "user_id": user_id})
print(user_to_pets)

# 结果输出：{'123': ['lizard', 'dog']}

常见问题和解决方案

  • 为什么不让LLM直接生成所有参数？
    • 让LLM生成敏感参数（如用户ID）可能会带来安全隐患。使用InjectedToolArg可以有效避免此类问题。
  • 如何确保参数注入的安全性？
    • 通过应用逻辑在调用工具时注入敏感参数，可以确保这些参数不会被外部系统轻易访问或篡改。

总结和进一步学习资源

通过在应用逻辑中动态注入参数，我们可以增强工具调用的安全性和灵活性。了解更多关于LangChain的使用方法，可以查看以下资源：

参考资料

  1. LangChain官方文档
  2. Python Pydantic文档

如果这篇文章对你有帮助，欢迎点赞并关注我的博客。您的支持是我持续创作的动力！

---END---

avatar
文章
阅读
粉丝