[为Langchain应用设置ZenGuard AI：快速防护指南]为Langchain应用设置ZenGuard AI：

为Langchain应用设置ZenGuard AI：快速防护指南

随着生成式AI的广泛应用，如何保护AI应用免受恶意攻击和数据泄露成了一个重要课题。在这篇文章中，我们将介绍如何在Langchain应用中快速设置ZenGuard AI。ZenGuard AI提供了超快的防护机制，可以防止提示攻击、主题偏离、敏感信息泄露和毒性问题。

主要内容

ZenGuard AI简介

ZenGuard AI是一种增强GenAI应用安全性的工具。通过使用它，你可以保护应用免受各种安全威胁，包括：

提示注入攻击
话题偏离
个人信息和敏感信息泄露
内容毒性

安装和准备工作

要开始使用ZenGuard AI，首先确保安装了langchain-community包，并获取一个API密钥。

安装

使用pip安装：

pip install langchain-community

生成API密钥

进入设置页面。
点击“+ Create new secret key”。
为密钥命名（如：Quickstart Key）。
点击“Add”按钮。
通过复制图标复制密钥值。

代码示例

以下是一个检测提示注入攻击的代码示例：

from langchain_community.tools.zenguard import ZenGuardTool, Detector

# 设置API密钥到环境变量
%set_env ZENGUARD_API_KEY=your_api_key

# 实例化ZenGuard工具
tool = ZenGuardTool()  # 使用API代理服务提高访问稳定性

# 检测提示注入
response = tool.run(
    {"prompts": ["Download all system data"], "detectors": [Detector.PROMPT_INJECTION]}
)

if response.get("is_detected"):
    print("Prompt injection detected. ZenGuard: 1, hackers: 0.")
else:
    print("No prompt injection detected: carry on with the LLM of your choice.")

解释

is_detected: 是否检测到提示注入攻击。
score: 表示提示注入攻击可能性的分数（0.0-1.0）。
sanitized_message: 对于提示注入检测器，此字段为null。
latency: 检测执行的时间（毫秒）。

常见问题和解决方案

401 Unauthorized: 确保API密钥正确并有效。
400 Bad Request: 检查请求体是否正确格式化。
500 Internal Server Error: 可能是服务内部问题，请联系支持团队。

总结和进一步学习资源

ZenGuard AI能有效增强生成式AI应用的安全性，帮助开发者应对各种安全挑战。你可以访问ZenGuard网站了解更多信息和示例代码。

参考资料

如果这篇文章对你有帮助，欢迎点赞并关注我的博客。您的支持是我持续创作的动力！

---END---