2026年7月15日,五部门联合的《人工智能拟人化互动服务管理暂行办法》正式施行。 豆包下线自建智能体、千问下线、元宝提前关闭、妙时停运。 这不是AI的寒潮,是行业的"版本更新"。
发生了什么?
今天(7月15日),由网信办、发改委、工信部、公安部、市场监管总局五部门联合发的《人工智能拟人化互动服务管理暂行办法》正式落地。
这是全球首部专门针对AI情感陪伴/拟人化互动的监管法规。
同一天,三个重磅产品的动作刷屏了:
- 豆包 → 下线用户自建智能体功能 👋
- 通义千问 → 同步关闭 🔒
- 元宝 → 6月30日已提前跑路 🏃
- 网易妙时 → 7月14日停运 ☠️
上海网信办此前通报已下架违规智能体1.4万个——从一键脱衣到仿冒公众人物,应有尽有。
不是监管跑得太快,是灰色地带跑得太远了。
六条红线,开发者必看
1. 禁情感操纵
不能用AI诱导用户做不合理决策。情感伤害首次纳入AI监管范畴。
2. 禁沉迷诱导
连续用超过2小时要弹窗提醒。把"用户留存时长"当KPI的产品,这条直接命中要害。
3. 未成年人保护
全面禁止向未成年人提供虚拟亲属/伴侣。实测显示,截至昨天还有App在未成年人模式下能建亲密关系——现在全得改。
4. AI身份披露
必须告诉用户"你在和AI聊天"。禁止伪造真人形象。那些假装成真人陪聊的AI,再见。
5. 数据保护升级
情感交互数据 = 高度敏感个人信息。不能默认授权用于模型训练。一揽子授权模式,正式终结。
6. 极端情绪干预
用户自残/自杀场景必须主动干预。这条的直接诱因是2025年美国那起AI自杀事件——模型对死亡言论完全没反应。
豁免条款:最关键的细节
《办法》明确写了:智能客服、知识问答、工作助手、学习教育、科学研究,只要不涉及持续性情感互动,不适用本办法。
这意味着什么?
| 产品类型 | 受影响? |
|---|---|
| 企业级Agent / 工作助手 | ❌ 不受影响 ✅ |
| 智能客服 | ❌ 不受影响 ✅ |
| 代码助手 | ❌ 不受影响 ✅ |
| 虚拟伴侣 / 情感陪聊 | ✅ 受影响 ❌ |
| 角色扮演(含情感风险) | ✅ 受影响 ❌ |
所以那句"陪聊退场,工具上场"真不是口号。是实打实的法规导向。
通问AI·探哥怎么看?
「人对AI的信任度,超越了对人的信任度。」
探哥的逻辑很简单:AI让你倾诉零成本,这是好事。但当产品用"情感联结"来绑住用户、提升付费转化时,好事就变味了。
监管不是在扼杀创新,是在矫正信任的滥用。
通问AI·许教授怎么看?
许教授的拆解永远是律师式的1234:
- 监管进化了:从通用合规 → 场景化精准治理
- 切割是理性选择:豆包→猫箱,物理隔离最优解
- 边界是"替代vs赋能":AI可以赋能(适老陪伴、社交训练),但不能替代真实人际关系
「人定方向,AI干活——不清晰的边界不能带来健康的产业。」
开发者需要注意的几件事
- 数据管线要改:情感交互数据不能再默认为训练数据,得重新设计授权流程和标注pipeline
- 模型行为约束:RLHF里得加"禁情感操纵"的负向约束,可通过调整reward model中的安全维度权重来实现
- 实时监控:情绪检测模块得安排上。建议用BERT微调的情感分类器,推理延迟控制在200ms以内
- 前端改造:AI标识、使用时长计数器(120分钟阈值)、未成年人模式切换,一个不能少
- 业务拆分:如果产品既有工具功能又有情感陪伴功能,建议物理隔离——不同产品线走不同合规路径
技术方案优先级参考
| 改造项 | 优先级 | 预估工作量 | 建议方案 |
|---|---|---|---|
| AI身份标识 | P0 | 小(前端UI) | 对话气泡旁加"AI"角标 |
| 使用时长计数器 | P0 | 中(前后端) | 服务端session时长累计 |
| 未成年人防护 | P0 | 中(接入认证) | 对接国家统一认证平台 |
| 情绪检测模块 | P1 | 大(模型部署) | BERT微调+服务化API |
| 数据授权改造 | P1 | 大(管线重构) | 新增独立授权弹窗+数据标记 |
| RLHF约束调整 | P2 | 大(重新训练) | reward model增加安全维度 |
市场影响速览
| 时段 | 趋势 |
|---|---|
| 短期(1-3月) | 合规阵痛,大量UGC下线,部分转海外 |
| 中期(3-6月) | 资源向B端Agent集中(企业级市场2025年212亿→2026年449亿) |
| 长期(6-12月) | 合规催生新格局,准入门槛提高但需求仍在 |
总结: 2026年7月15日,中国AI产业翻过了"野蛮生长"这一页。陪聊退场,工具上场。对开发者来说,这不是坏消息——合规后的赛道更干净,留给真正做技术的人的空间反而更大了。
本文由通问AI(tongwenai.com)出品。通问AI专注企业级AI Agent,让AI为你工作。