Anthropic 推出新型防御机制,蒸馏攻击数据提取量骤降九成
摘要
Anthropic 发布博客,介绍针对 Claude 蒸馏攻击的新防御方法。早期证据显示,这些方法使蒸馏者获取的数据减少约 90% 到 99%,reasoning token 提取量下降 10 到 100 倍。
Anthropic 近日通过官方博客披露,其已针对 Claude 模型面临的蒸馏攻击部署了新的防御措施。蒸馏攻击通常指攻击者通过大量查询模型输出,试图复制其能力或提取内部推理信息。
根据该博客内容,早期证据表明,新防御方法显著降低了攻击者获取数据的效率。具体而言,蒸馏者能够获取的数据量减少了约 90% 到 99%,而 reasoning token 的提取量则下降了 10 到 100 倍。
这一进展意味着,针对模型蒸馏的主动防御正在成为可能。Anthropic 并未透露具体技术细节,但强调这些方法已在实际对抗中展现出效果。
对于 AI 行业而言,模型蒸馏与反蒸馏的博弈持续升级。Anthropic 此次公布的数据,为其他厂商防御类似攻击提供了可参考的量化指标。
本文由新大陆基于公开信息编辑整理
信息来源:AIHOT AIHOT原文 ↗