全球首部AI拟人化监管今天落地,豆包千问集体"切割",开发者们该知道什么?

173 阅读5分钟

2026年7月15日,五部门联合的《人工智能拟人化互动服务管理暂行办法》正式施行。 豆包下线自建智能体、千问下线、元宝提前关闭、妙时停运。 这不是AI的寒潮,是行业的"版本更新"。


发生了什么?

今天(7月15日),由网信办、发改委、工信部、公安部、市场监管总局五部门联合发的《人工智能拟人化互动服务管理暂行办法》正式落地。

这是全球首部专门针对AI情感陪伴/拟人化互动的监管法规。

同一天,三个重磅产品的动作刷屏了:

  • 豆包 → 下线用户自建智能体功能 👋
  • 通义千问 → 同步关闭 🔒
  • 元宝 → 6月30日已提前跑路 🏃
  • 网易妙时 → 7月14日停运 ☠️

上海网信办此前通报已下架违规智能体1.4万个——从一键脱衣到仿冒公众人物,应有尽有。

不是监管跑得太快,是灰色地带跑得太远了。


六条红线,开发者必看

1. 禁情感操纵

不能用AI诱导用户做不合理决策。情感伤害首次纳入AI监管范畴。

2. 禁沉迷诱导

连续用超过2小时要弹窗提醒。把"用户留存时长"当KPI的产品,这条直接命中要害。

3. 未成年人保护

全面禁止向未成年人提供虚拟亲属/伴侣。实测显示,截至昨天还有App在未成年人模式下能建亲密关系——现在全得改。

4. AI身份披露

必须告诉用户"你在和AI聊天"。禁止伪造真人形象。那些假装成真人陪聊的AI,再见。

5. 数据保护升级

情感交互数据 = 高度敏感个人信息。不能默认授权用于模型训练。一揽子授权模式,正式终结。

6. 极端情绪干预

用户自残/自杀场景必须主动干预。这条的直接诱因是2025年美国那起AI自杀事件——模型对死亡言论完全没反应。


豁免条款:最关键的细节

《办法》明确写了:智能客服、知识问答、工作助手、学习教育、科学研究,只要不涉及持续性情感互动,不适用本办法

这意味着什么?

产品类型受影响?
企业级Agent / 工作助手❌ 不受影响 ✅
智能客服❌ 不受影响 ✅
代码助手❌ 不受影响 ✅
虚拟伴侣 / 情感陪聊✅ 受影响 ❌
角色扮演(含情感风险)✅ 受影响 ❌

所以那句"陪聊退场,工具上场"真不是口号。是实打实的法规导向。


通问AI·探哥怎么看?

「人对AI的信任度,超越了对人的信任度。」

探哥的逻辑很简单:AI让你倾诉零成本,这是好事。但当产品用"情感联结"来绑住用户、提升付费转化时,好事就变味了。

监管不是在扼杀创新,是在矫正信任的滥用。


通问AI·许教授怎么看?

许教授的拆解永远是律师式的1234:

  1. 监管进化了:从通用合规 → 场景化精准治理
  2. 切割是理性选择:豆包→猫箱,物理隔离最优解
  3. 边界是"替代vs赋能":AI可以赋能(适老陪伴、社交训练),但不能替代真实人际关系

「人定方向,AI干活——不清晰的边界不能带来健康的产业。」


开发者需要注意的几件事

  1. 数据管线要改:情感交互数据不能再默认为训练数据,得重新设计授权流程和标注pipeline
  2. 模型行为约束:RLHF里得加"禁情感操纵"的负向约束,可通过调整reward model中的安全维度权重来实现
  3. 实时监控:情绪检测模块得安排上。建议用BERT微调的情感分类器,推理延迟控制在200ms以内
  4. 前端改造:AI标识、使用时长计数器(120分钟阈值)、未成年人模式切换,一个不能少
  5. 业务拆分:如果产品既有工具功能又有情感陪伴功能,建议物理隔离——不同产品线走不同合规路径

技术方案优先级参考

改造项优先级预估工作量建议方案
AI身份标识P0小(前端UI)对话气泡旁加"AI"角标
使用时长计数器P0中(前后端)服务端session时长累计
未成年人防护P0中(接入认证)对接国家统一认证平台
情绪检测模块P1大(模型部署)BERT微调+服务化API
数据授权改造P1大(管线重构)新增独立授权弹窗+数据标记
RLHF约束调整P2大(重新训练)reward model增加安全维度

市场影响速览

时段趋势
短期(1-3月)合规阵痛,大量UGC下线,部分转海外
中期(3-6月)资源向B端Agent集中(企业级市场2025年212亿→2026年449亿)
长期(6-12月)合规催生新格局,准入门槛提高但需求仍在

总结: 2026年7月15日,中国AI产业翻过了"野蛮生长"这一页。陪聊退场,工具上场。对开发者来说,这不是坏消息——合规后的赛道更干净,留给真正做技术的人的空间反而更大了。


本文由通问AI(tongwenai.com)出品。通问AI专注企业级AI Agent,让AI为你工作。