- 作者：陈大鱼头
- github：github.com/KRISACHAN
- 邮箱：chenjinwen77@gmail.com
前言
早上上网冲浪的时候发现 Anthropic 发了个新帖。
然后就点击进去看了看，发现整个报告覆盖了 7 类威胁：
| 威胁类别 | 主要内容 |
|---|---|
| 网络攻击 | 利用 AI 进行侦察、漏洞分析、代码生成、工具调用、数据处理等 |
| 影响力行动 | 利用 AI 批量生成内容、维护 Persona、管理目标数据库和传播流程 |
| 情报与监控 | 利用 AI 处理大规模数据、人物画像、翻译、分析和监控系统开发 |
| 常规武器 | AI 被用于部分武器相关的软件开发、仿真、工程设计和研究 |
| 生物研究 | AI 被用于部分具有双用途风险的生物科研与实验设计辅助 |
| 诈骗 | 利用 AI Persona 长期维持虚假身份、关系和互动，例如约会 App 欺诈 |
| 模型蒸馏与规模化滥用 | 大规模获取 Claude 输出、推理或交互数据，用于训练其他模型 |
工业化“崩老头”系统
里面内容有点多，但我觉得比较有意思的就是报告里披露了一个编号为 GTG-15001 的虚假约会 App 网络。
按照 Anthropic 的调查，一家位于中国的 App 工作室运营了超过 20 款约会 App，并利用 Claude 驱动大量虚假用户，与真实用户长期聊天。
Anthropic 在 2026 年 4 月观察到的两周窗口中，记录到了以下规模：
| 项目 | 规模 |
|---|---|
| 约会 App | 20+ |
| AI Persona | 4700+ |
| 接触的真实用户 | 至少 2.5 万人 |
| Claude 产生的消息 | 约 236 万条 |
| AI 与真人用户比例 | 约 3:1 |
| 用户 Feed 中 AI Persona 比例 | 约 75% |
| 用户 Feed 中真人比例 | 约 25% |
我找 gpt 作了张流程图来说明这个系统的流转：
这些平台通常存在三类参与者：
| 角色 | 实际身份 |
|---|---|
| 普通用户 | 认为自己正在与真实用户约会或聊天 |
| Claude Persona | 大量持续运行的虚假身份 |
| 真人 Gig Worker | 必要时为 Persona 提供真实性验证 |
普通用户看到的表面是一个约会平台。
后台实际运行的则是：AI Persona + 真人兼职 + 多模型系统。
盈利模式
盈利模式结果如下方表格所示：
| 环节 | 做什么 | 商业作用 |
|---|---|---|
| 获客 | 运营 20+ 款约会 App 获取真实用户 | 建立付费用户池 |
| AI Persona | 大量虚假用户进入匹配 Feed | 解决“没有足够真人用户”的供给问题 |
| 主动互动 | AI 与真人持续聊天、维护人设 | 提高用户回复率和活跃度 |
| 情绪价值 | 持续建立关系、保持聊天连续性 | 提升用户沉没成本和情感投入 |
| 额度消耗 | 发送消息、互动需要消耗额度/虚拟币 | 把聊天行为直接转化为消费 |
| 充值 | 用户额度不足后购买虚拟币 | 核心收入来源 |
| 真人验证 | 用户产生怀疑时，由真人兼职补充视频、社交互动等 | 降低用户流失，提高可信度 |
| AI 辅助真人 | 小模型给兼职人员生成候选回复 | 降低真人服务成本 |
| 循环运营 | 验证完成后重新交给 AI 长期聊天 | 延长用户生命周期和付费次数 |
我找 gpt 作了张流程图来说明这个模式的流转：
传统的模式最大的问题就是必须让真人长期陪客户聊天，但这种模式让真人时间逐渐变成模型 Token。
也就是用 token 赚钱。
烧 token 的终于赢过卖 token 的了，喜闻乐见。
此外，这套系统还有一整套应用商店审核规避机制，用来提供在应用商店上架的可能性。
为什么难被 Claude 识别？
其实核心就这 4 点：
| 原因 | 核心说明 |
|---|---|
| 单条 Prompt 看起来正常 | Claude 收到的往往只是“扮演角色、继续聊天、维持人设”等普通任务，本身和正常 AI Companion 很接近。 |
| 模型看不到完整商业目的 | Claude 看到的是当前对话任务，看不到背后“虚假身份、付费机制、长期诱导”的完整业务链路。 |
| 任务被拆散在多个环节里 | 聊天、图片、真人验证、付费、后台运营由不同系统和人员完成，单个模型很难判断这些动作组合后的真实用途。 |
| 当前任务与真实目的分离 | 模型知道“现在要回复什么”，但不知道平台真正想达到什么目的。 |
总结来说就是：
Claude 难识别，不是因为它看不懂聊天内容，而是因为它看到的是当前任务，真正有问题的却是整个业务流程和背后的真实目的。
技术特征
这套体系的技术特征如下：
| 技术特征 | 核心说明 |
|---|---|
| 多角色 AI 系统 | 不同 AI 分别负责聊天、回复建议、图片处理等任务，不依赖单一模型完成全部工作。 |
| 长期 Persona 维持 | AI 需要持续保持固定身份、人设和对话风格，而不是一次性回复。 |
| 人机协同 | AI 负责大规模聊天，真人只在视频、社交验证等关键节点介入。 |
| 高并发自动化 | 数千个 AI Persona 可以同时与大量真人交互，突破人工并发上限。 |
| 流程化编排 | 匹配、聊天、付费、真人介入、再次聊天形成固定业务流程。 |
| 低边际成本扩展 | 新增一个聊天对象主要增加的是模型调用成本，而不是新增一名真人员工。 |
| 上下文与状态持续 | 系统需要记住用户关系、聊天阶段、怀疑程度等状态，保证长期互动连续。 |
| 单任务与整体目的分离 | 每个 AI 看到的只是局部任务，真正的业务目的存在于整套系统流程中。 |
其实就是一套多模型 + 长期状态 + 自动化编排 + 真人兜底 + 商业闭环组成的复杂系统。
模型能力只是其中一个环节，所以 Claude 或者其它模型由于无法看到完整的流水线而难以识别真实意图。
后记
看完这部分的报告，只能说 AI 时代，骗子也得下岗。
只要这个时候再出一个代聊天的 AI 系统，那么就变成 AI 与 AI 之间恋爱，AI 崩 AI 了。
真到这一天，就喜闻乐见了。
