大模型安全护栏全景:国内主流厂商的护栏产品都在做什么?
说明:本文是基于公开产品文档的技术调研与横向对比,不含任何商业合作或推广。文中能力描述均摘自媒体公开材料,未经独立第三方验证,具体能力、定价与限制以各家官方最新文档为准。
大模型会输出不可控内容,智能体可能执行越界操作。护栏(Guardrails)就是拦在模型和真实系统之间的那道防线。这篇文章把国内主流厂商的护栏产品做了一次梳理,整理成一张可以对照选型的结构表。
一、先对齐一个概念:护栏到底是什么
各家对「安全护栏」的叫法和边界并不一致,但大致可以归成两类:
- 广义护栏(Guardrails / 安全围栏):覆盖大模型全生命周期——训练语料治理、模型安全对齐、推理时的输入/输出实时防护、Agent 工具调用管控,是「内生安全 + 外置防护」的组合。
- 狭义护栏(内容安全护栏 / 审核 API):特指推理阶段在输入、输出两端做实时风险检测与拦截的能力,通常以 API/SDK 形式集成。
下面按「推理阶段的实时防护能力」为主线,同时标注各厂商在训练侧、Agent 侧的延伸能力。重点看三个维度:内容安全与合规审核、提示词攻击防护、个人敏感信息与隐私保护。
二、云厂商:护栏绑定自家平台
1. 阿里云 — 百炼「安全护栏」
底层深度集成 Qwen3-Guard 与基于 Qwen 系列 SFT 的审核大模型。
- 内容合规:违法违规、不良内容、歧视性表述、价值观偏差,输入输出双向审核。
- 提示词攻击防护:指令劫持、诱导性输入、系统指令篡改;文档类恶意内容检测(PDF/PPT/DOC 内嵌脚本、宏风险);风险链接检测(仿冒、异常跳转)。
- 隐私保护:识别个人与企业敏感信息,防止训练数据泄露与对话信息外溢。
- 特色:流式审核(逐 token 实时送检)、长上下文感知(跨轮次攻击识别)、多模态防护、数字水印、爬虫防护、幻觉检测。
接入方式:All-in-One API,已在百炼、AI 网关、WAF 原生集成,并上架 Dify 插件市场。
2. 百度 — 千帆「安全护栏」
提出「三横三纵」框架(数据/模型/应用三层 × 开发/训练/部署/运维全流程)。
- 内容合规:内容干预系统(底线规则必答 + 查询干预)、安全分类算子(模型识别违法违规内容)、输出过滤与链接安全检测。
- 提示词攻击防护:输入过滤(NLP 识别恶意提示词)、增强型提示防护(防对抗输入、防精调数据被套取)。
- 隐私保护:动态脱敏 + 联邦学习,推理侧内置敏感信息识别(多类个人身份标识)。
- 特色:模型水印、对抗训练、沙箱隔离、输出白名单、隐形水印溯源,以及等保三级、GDPR 等合规适配。
3. 腾讯 — 天御大模型安全网关 + LLM-WAF
以天御大模型安全网关为核心,配合 AI-SPM(态势感知)与 LLM-WAF(大模型应用防火墙)。
- 内容合规:混元内容安全大模型,过滤违法违规与不良内容。
- 提示词攻击防护:LLM-WAF 实时拦截提示词攻击、算力滥用、自动化爬取。
- 隐私保护:数据分级分类引擎,识别多类个人身份信息。
- 特色:大模型组件识别、组件漏洞检测、Agent 身份统一管控、兼容 DeepSeek/混元/Qwen2.5/阶跃星辰等多模型。
腾讯安全团队曾联合 OWASP 中国、清华大学发布《大语言模型(LLM)安全性测评基准》。
4. 字节跳动 — 火山方舟「内容安全护栏」
在豆包模型原生安全能力之上叠加,底层对接火山引擎「内容风险识别」(火山风控)。
- 内容合规:多维度风险识别(违规内容、辱骂、联系方式外泄、广告导流、诈骗话术),支持自定义词库。
- 提示词攻击防护:模型原生安全对齐(SFT + 奖励模型 + RL)+ 内容安全护栏叠加;智能体安全层应对注入与工具滥用。
- 隐私保护:互信计算架构(链路加密、数据保密、环境隔离、操作审计)。
- 特色:预训练/微调/奖励建模/强化学习四阶段安全对齐。
5. 华为云 — 盘古安全护栏 / ModelArts Guard
通过国内可信 AI 相关评估的大模型安全产品之一。
- 内容合规:文本审核(语种识别、变体识别)+ 图片审核(人物特征识别、画中画识别、OCR)。
- 提示词攻击防护:提示词攻击检测覆盖目标劫持、诱导性表达、反向引导、悖论式提问、梯度优化类对抗样本等,官方材料给出的检出率与误报率指标较为可观。
- 隐私保护:二十余种个人标识信息检测脱敏(证件号、电话、地址等)。
- 特色:「四道防线」(数据/模型/内容/应用防护)、多语言检测、多轮长文本检测(最多 20 轮、256KB)、算力消耗保护、模型动态混淆防窃取。
强调「开放兼容」,兼容开源、三方大模型,偏政企、混合云场景。
三、独立安全厂商:外置围栏,模型无关
6. 360 — 智脑「智盾」安全护栏
基于「以模治模」理念构建。
- 内容合规:风险内容分类器基于语义大模型,对标 TC260-003 标准的五大类细分项,细化上百个风险标签。
- 提示词攻击防护:红蓝对抗持续生成诱导样本,多专家模型协同防护。
- 隐私保护:敏感信息自动脱敏,数字水印溯源。
- 特色:安全回复大模型(拒答、安全代答、放行三档)、幻觉抑制、智能体安全管控。
在公开的大模型安全护栏能力测评中表现靠前。
7. 网易易盾 — 大模型安全围栏
独立第三方内容安全厂商,覆盖「内生安全 + 外置围栏」全生命周期。
- 内容合规:多模态云端检测(文本/图片/音视频/文档)。
- 提示词攻击防护:输入侧五件套(真实意图识别、提示词安全审查、对抗样本检测、多模态输入理解、上下文深度理解),覆盖 MCP/Skill 间接注入。
- 隐私保护:覆盖 50 余种个人敏感信息类型的标签检测。
- 特色:流式检测(滑动窗口)、安全代答(失当回应自动替换为合规回复)、幻觉与事实性检测、智能体安全四层防护、Skill 安装前扫描(14 大类检测项)。
通过国内第三方机构的大模型安全围栏能力检验。
四、另外三条路线:治理、内生、评测
8. 智谱 AI — GLM 内置安全审查体系
智谱没有独立对外售卖的护栏产品,安全能力以 GLM 模型内生安全对齐 + 分层审查系统形式存在,强调「意图为中心而非关键词为中心」。
- 内容合规:网络安全场景风险分级(安全问答、蓝队防御、CTF、漏洞挖掘修复、渗透测试等逐级分类)。
- 提示词攻击防护:分层审查(外层分类器 + 推理监控器 + 深度安全对齐),红队自动化测试持续加固。
- 特色:「网络安全受信访问」计划(高危能力仅向验证用户开放)、Agent 工具调用权限校验。
⚠️ 一个值得关注的现象:开放权重的模型在本地部署场景下,其安全对齐层存在被移除或弱化的可能。这并非某一家的问题,而是开源路线的共性困境——权重一旦放出,安全层就脱离了原厂的控制范围。后文会展开。
9. 科大讯飞 — 星火「大模型安全护栏」
有独立护栏产品,同时走「安全的 AI」路线——把安全、可信、数据不出域内置在星火基座内,强调端云一体 + 国产算力全栈可控。
- 内容合规:覆盖 TC260 国标的五大类细分项,拓展到上千种细分风险类型;配套「讯飞智检」多模态内容审核。
- 提示词攻击防护:面向诱导性输入、恶意意图、隐晦语义、问答关联、多语种混合等场景,「以模治模」+「多模结合」封堵。
- 隐私保护:端侧模型 + 本地沙箱 + 系统级安全围栏,敏感数据本地处理、数据不出域。
- 特色:幻觉治理、隐式水印、行业场景定制(教育/医疗/汽车)。
通过国内云上大模型内容安全相关能力评估。
10. 商汤 — SenseTrust 可信 AI 治理平台
严格来说是「AI 治理平台」而非纯护栏,形态是「数据治理 + 模型评测 + AI 防火墙 + 数字水印/鉴伪」的工具箱。
- 内容合规:数据脱敏、数据去毒(显性与隐性风险样本检测)、数据合规审查、偏见评估。
- 提示词攻击防护:「AI 防火墙」从源头过滤对抗样本;模型评测覆盖对抗安全、后门安全、鲁棒安全。
- 隐私保护:数据脱敏 + 数据去毒 + 训练侧投毒保护。
- 特色:数字水印与鉴伪(多模态、AIGC 确权溯源)、模型体检、伪造检测,方案已在国内多家金融机构落地。
能力重心在「评测 + 加固 + 鉴伪」,偏治理底座而非实时拦截。
五、横向对比总表
| 厂商 | 产品名 | 内容安全/合规 | 提示词攻击防护 | 隐私保护 | 特色/差异化 | 交付形态 |
|---|---|---|---|---|---|---|
| 阿里云 | 百炼安全护栏 | 多维度双向审核 | 注入+恶意文件+风险链接 | 个人/企业信息 | Qwen3Guard 底座、流式审核、长上下文 | API/百炼/Dify 插件 |
| 百度 | 千帆安全护栏 | 底线规则+查询干预 | NLP 过滤+提示防护 | 动态脱敏+联邦学习 | 模型水印、沙箱隔离、合规适配完整 | 绑定千帆平台 |
| 腾讯 | 天御网关/LLM-WAF | 混元内容安全模型 | WAF 拦截 | 数据分级分类引擎 | 安全基础设施路线、多模型兼容 | 云安全产品族 |
| 字节 | 火山方舟内容护栏 | 多维度识别 | 四阶段安全对齐 | 互信计算架构 | 豆包原生安全+风控叠加、智能体安全 | 绑定方舟平台 |
| 华为云 | 盘古护栏/ModelArts Guard | 文本+图片审核 | 多类攻击检测 | 二十余种标识脱敏 | 四道防线、多语言、政企混合云 | API/兼容三方模型 |
| 360 | 智盾安全护栏 | 语义分类器 | 红蓝对抗+多专家 | 敏感信息脱敏 | 以模治模、安全代答、幻觉抑制 | API/内置默认关闭 |
| 网易易盾 | 大模型安全围栏 | 全模态 | 五件套+MCP/Skill | 50 余种标签 | 安全代答、流式检测、备案测评 | API/独立第三方 |
| 智谱 | GLM 内置审查 | 风险分级 | 分层审查+推理监控 | 以模型内生拒答为主 | 受信访问计划、Agent 权限校验 | 模型内生 |
| 科大讯飞 | 星火安全护栏 | 国标分类+上千细分 | 以模治模+多模结合 | 端侧+本地沙箱 | 端云一体、国产算力全栈可控 | API/私有化部署 |
| 商汤 | SenseTrust 治理平台 | 数据去毒+合规 | AI 防火墙 | 脱敏+投毒保护 | 数字水印/鉴伪、模型评测 | 治理工具箱 |
六、几点观察
1. 两条(其实是四条)路线。
- 云厂商(阿里/百度/腾讯/字节/华为):护栏深度绑定自家 MaaS 平台与模型,优势是开箱即用、与模型同源,劣势是跨模型能力弱。
- 独立安全厂商(360/易盾):外置围栏,强调模型无关、可热更新、红蓝对抗基因。
- 「安全的 AI」vs「AI 的安全」:讯飞主打前者(模型内生可信 + 端云一体),360 主打后者(外置护栏保护第三方模型),哲学恰好相反,是对比写作的好样本。
- 治理工具箱:商汤 SenseTrust 偏「评测 + 加固 + 鉴伪」,不是实时拦截护栏,而是 AI 治理底座。
2. 「流式审核」和「安全代答」成为新的竞争点。
从「生成完再检查」演进到「逐 token 实时检测」,从「简单拒答」演进到「安全代答/合规替换」,这是近两年护栏产品最主要的两个升级方向(阿里 Qwen3Guard-Stream、易盾流式检测、360 安全代答均指向此)。
3. 提示词攻击防护从「文本检测」延伸到「多模态 + Agent」。
文档类恶意内容、风险链接、MCP/Skill 间接注入、智能体工具调用越权,成为各家争夺的新能力点。
4. 开放权重模型的护栏悖论。
这是我认为最值得深入讨论的一点。DeepSeek、Qwen、GLM 等开放权重的模型一旦放出参数,安全对齐层就可能在本地被移除或重写。这引出一个深层问题——护栏到底该放在哪一层:
- 模型内生安全,在开放权重场景会失效(权重可被改)。
- 外置护栏能兜住 API 调用场景,但对「别人拿权重本地跑」这件事同样无能为力。
- 最终能依赖的,往往还是部署侧的访问控制 + 身份鉴权 + 权限最小化。
理解这一点,才能理解国内护栏产品格局背后的逻辑。
5. 合规背书是硬门槛。
备案测评、可信 AI 评估、等保三级、公开测评成绩,是 B 端选型的重要依据;但这些材料多由厂商自行披露,横向可比性有限,建议以实际 POC 结果为准。
七、场景与评估维度
- 已深度使用某家云平台及其模型 → 平台内置护栏接入成本较低,但要确认它是否覆盖你真正在意的风险类别。
- 多模型、多供应商、自建 Agent → 外置护栏或兼容第三方模型的方案更灵活,重点看接入方式与延时开销。
- 强监管行业(政务/金融/医疗) → 重点看合规资质、私有化与混合云部署能力。
- 要做内容治理、鉴伪、溯源 → 数字水印与鉴伪是差异化能力,注意考察误判率。
- 想自建护栏 → 可以先从开源护栏模型(如 Qwen3Guard)起步做基线,再按业务补规则。
选型时建议统一问三个问题:误报率多少、平均延时多少、更新策略是否可热更。这三点比能力清单更能决定上线体验。
本文基于公开产品文档与官方发布信息整理,不含商业合作,不构成采购建议。各厂商具体能力、定价与限制以官方最新文档为准;文中涉及的能力项多来自厂商自述,未做独立第三方验证,引用标准条款请以标准原文为准。
参考来源:各厂商官方文档与公开技术博客,以及 OWASP LLM Top 10、TC260 相关标准公开材料(信息截至 2026 年 10 月)。