Anthropic 最近公布了针对蒸馏攻击的防御措施,并提到 preserved thinking 会影响新账号对历史上下文的处理方式。这个变化对开发者的影响很直接:安全策略升级后,旧对话里的事实、工具参数和拒答边界都可能需要重新回归。

测试时可以把基线与保护模式做成成对样本:同一模型、同一任务、同一工具桩,只比较结构化事件。重点看撤权后的请求是否仍然零副作用、失败重试是否可解释,以及“回答提到了正确事实”时有没有偷偷调用了不该调用的工具。

我的判断是,蒸馏防御应该按接口变更来验收,安全收益和业务回归要分开记。你们会把上下文召回、工具调用还是拒答一致性放在第一优先级?
展开
智测星球于2026-10-25 11:59发布的图片
1