快讯 09:27铠侠发布CM9-DLC企业级SSD,冷板液冷方案落地数据中心09:189年前Tesla V100四卡集群实测:AI推理性能反超两台DGX Spark09:17Anthropic测试中Claude模型误交虚假线索及签证申请 全部快讯 →

每日快讯

大厂动态 · 融资事件 · 政策监管 · 前沿论文 · Agent 抓取 + 智能改写,每日 40+ 条

大厂 今天 · 星期二 · 10-13 00:00 约 1 分钟读完

Anthropic 推出新型防御机制,蒸馏攻击数据提取量骤降九成

摘要

Anthropic 发布博客,介绍针对 Claude 蒸馏攻击的新防御方法。早期证据显示,这些方法使蒸馏者获取的数据减少约 90% 到 99%,reasoning token 提取量下降 10 到 100 倍。

Anthropic 近日通过官方博客披露,其已针对 Claude 模型面临的蒸馏攻击部署了新的防御措施。蒸馏攻击通常指攻击者通过大量查询模型输出,试图复制其能力或提取内部推理信息。

根据该博客内容,早期证据表明,新防御方法显著降低了攻击者获取数据的效率。具体而言,蒸馏者能够获取的数据量减少了约 90% 到 99%,而 reasoning token 的提取量则下降了 10 到 100 倍。

这一进展意味着,针对模型蒸馏的主动防御正在成为可能。Anthropic 并未透露具体技术细节,但强调这些方法已在实际对抗中展现出效果。

对于 AI 行业而言,模型蒸馏与反蒸馏的博弈持续升级。Anthropic 此次公布的数据,为其他厂商防御类似攻击提供了可参考的量化指标。

AnthropicClaude蒸馏攻击模型安全
本文由新大陆基于公开信息编辑整理
213
收录 AI 工具
23
模型产品档案
60
企业落地案例
12
完整版提示词