Anthropic 上线反蒸馏新防护,数据窃取量最高降 99%
摘要
Anthropic 推出新防护措施,将模型蒸馏攻击中可提取的推理词元数量降至原先的十分之一至百分之一,降幅约 90% 至 99%,并封禁数万个相关账号,点名智谱 AI 在研发 GLM-5.3 期间曾尝试蒸馏 Claude。
当地时间周一,Anthropic 宣布上线多项新防护机制,目标是阻止竞争对手复刻 Claude 的能力。据该公司披露,这些措施使模型蒸馏攻击中被窃取的数据量下降约 90% 至 99%,蒸馏攻击者所能提取的推理词元(token)数量,已仅为之前的十分之一至百分之一。
模型蒸馏正成为头部 AI 企业共同警惕的问题。Anthropic、OpenAI、谷歌等公司认为,竞争对手可借助这一手段,以更低成本、更快速度复刻出模型的前沿能力。Anthropic 表示,新防护专门用于限制外界获取 Claude 的推理过程,大幅压缩了信息提取空间。
从技术层面看,这套机制提升了使用代理网络反复探测 Claude 受保护推理链路的难度,能够拦截信息提取尝试,并对大规模蒸馏行动形成阻碍。Anthropic 称,该安全系统的稳健程度“大致相当于阻止 Claude 协助制造生物武器的防护体系”,误报率低于 0.1%。
在执法层面,Anthropic 已封禁数万个与蒸馏活动相关的账号,并以 AI 初创企业智谱 AI 为例,称后者在研发 GLM-5.3 模型期间,曾尝试从 Claude 蒸馏提取模型能力。Anthropic 同时警告,此类行为会带来安全与国家安全风险。
本文由新大陆基于公开信息编辑整理
信息来源:IT之家 IT之家原文 ↗