Anthropic Research·· 19 小时前精选AI 评分79
Anthropic 介绍强化 Claude 反蒸馏攻击防御的方法
Strengthening our defenses against distillation attacks
AI 导读
Anthropic 称近几个月通过新方法强化了 Claude 的反蒸馏攻击防御，早期证据显示蒸馏者收集的数据量减少约 90% 到 99%。这些方法包括控制推理内容可流向何处、用两阶段分类器阻断和修补抽取尝试，以及提高重复尝试的难度；分类器用于 Claude Sonnet 5.5、Claude Opus 5 和 5.5、Claude Fable 5 和 5.1 等模型。
推荐理由
原文公开了反蒸馏防护的设计取舍与量化结果，可作为模型开发者处理能力抽取风险的参考。
来源：Anthropic Research · anthropic.com