事实边界:2026年09月21日,据单一信源转述,不列颠哥伦比亚省(加拿大)在美国加州起诉 OpenAI,主张其在 2026年02月10日 Tumbler Ridge 枪击案前已由系统 flag 出的 ChatGPT 活动本应转介警方而未被转介。该案致 8 人死亡、27 人受伤,死者含 5 名儿童与 1 名教育工作者。这是起诉主张,不是判决结论,本文不推定案件事实。
先把这条新闻翻译成工程语言。诉讼主张的落点不是模型没认出来,而是认出来之后没送到。前者是准确率问题,后者是投递问题。对企业来说,这两件事的归属完全不同:准确率由供应商背,投递路径只有自己能设计。
一、判定输出的默认落点是日志
人工时代,传递动作依附在人的日常行为上。一个员工发现问题,站起来走到隔壁工位说一句就完了,不需要单独设计这条路径。
系统接手判定之后,这个动作没有等价物。判定结果写进日志,是零成本的默认状态;把它送到某个有权处理它的人手上,是需要被显式构造出来的例外。
所以排查告警没人认领的问题时,先别问模型准不准,先问一句:这条判定结果的出口在哪。
二、把转介抽象成一次跨系统投递
一次完整的转介至少经过四跳:
signal → route → owner → action
每一跳都能独立失败,而失败的表征几乎一样:什么都没发生。这是这类问题最难排查的地方,日志里没有报错,只有一条从来没被读过的记录。
- signal:判定系统输出的一条信号,包含字段,但不一定包含判断。
- route:这条信号该走哪条路。多数系统在这里没有配置,只有落库。
- owner:谁有权接收,谁在超时后接手。
- action:收到之后做什么,做完之后回写什么。
三、三个接口契约
契约一:可见性,谁能读
判定输出默认落在技术系统里,权限也默认给技术团队。业务负责人和法务能不能看到,通常没人定过。看不到的人,不会对不知道的事负责。
工程上这就是一张读权限矩阵,难点不在实现,在于没人来填这张表。
契约二:载荷,以什么格式到达
技术系统的一条告警,和一份能让人立刻行动的通知,不是同一个东西。前者只有字段,后者还要有判断、依据和建议动作。一个最小可用的载荷示意:
{
"signal_id": "sig_000417",
"decided_at": "<ISO8601>",
"source": "chat_monitor",
"severity": "P0",
"fields": { "raw": "..." },
"judgement": "requires_human_escalation",
"evidence_ref": ["evt_1", "evt_2"],
"suggested_action": "refer_to_law_enforcement",
"owner_role": "duty_officer",
"escalate_after_sec": 900,
"delivery": { "channel": "phone+pager", "ack_required": true }
}
看 judgement、evidence_ref、suggested_action 这三个字段。多数告警只有 fields,缺的恰恰是让接收方能直接行动的那部分。
契约三:升级权,到达之后谁拍板
谁有权把一条内部判定升级为对外转介?这个问题在合规与业务之间来回弹,最后常常没有答案。
工程上要把它落成一个角色加一条超时规则,而不是一句视情况而定。owner_role 加上 escalate_after_sec,再加上超时后的兜底角色,这条链才算闭合。
四、投递必须有回执
没有回执的投递等于没投递。至少记录三件事:送达时间、被谁接收、处理结果。ack_required 为 true 的信号,超时未确认就必须触发升级,而不是继续等。
这三件事同时也是事后追责的唯一依据。开头那个案子里争议的核心也在这:有没有送、送到没有,而不是该不该送。
五、跨境那一跳
起诉方是加拿大 BC 省,被诉方是一家美国公司,受诉法院在加州。跨境又跨法域的传递,多出来的不是技术难度,是每一跳的口径和责任归属都要重新对一次。
落到设计上,就是载荷里要带 jurisdiction 与 retention 相关字段,以及每一跳的归属方标识。否则事后无法还原这条信号究竟停在哪一跳。
六、为什么它永远排在开发排期最后
三个契约的共同点是都不产生新功能,做的是让已有的东西到达该到达的地方,在需求评审里最容易被当成运维细节。
而判定之后的每一步都在这个盲区里,不只是安全场景。客户投诉被判为需要线下跟进、供应商风险被打上标记、内容被判为违规,判定之后的路径同样没人设计。
事实核查说明:不列颠哥伦比亚省起诉 OpenAI 一事来自单一信源转述(2026年09月21日),性质为起诉主张、未经判决认定。Tumbler Ridge 案伤亡数字为该信源口径,本文以最简方式引述,仅用于说明事件性质,不对案件本身作评价。文中三个契约与全部自查动作均为本文提出的分析框架,基于作者的项目观察,样本有限,不构成统计结论。