OpenAI 强化反蒸馏防护:GPT-6.2 Astra 思考链提取成功率降至 0.2%
摘要
OpenAI 公布对抗性蒸馏防御进展,GPT-6.2 Astra 与 GPT-6.2 Sol 的推理思考链保护升级。黑盒红队测试显示,历史请求推理内容提取成功率从 54.0% 降至 0.2%,当前请求从 22.9% 降至 0.9%,数据汇总自 6 个攻击模型。
11 月 20 日,OpenAI 对外披露了针对「对抗性蒸馏」的最新防御部署,重点在于加固 GPT-6.2 Astra 与 GPT-6.2 Sol 对内部推理思考链的保护。所谓对抗性蒸馏,指未经授权利用前沿模型的输出训练其他模型,使后者获得相近能力却缺乏同等安全护栏,OpenAI 认为这可能导致网络安全、生物学等领域的高风险能力流向安全限制更弱的模型。
在内部自适应黑盒红队测试中,OpenAI 量化了防护效果。针对此前请求中受保护推理内容的提取成功率,从 GPT-6 Astra 原有安全机制下的 54.0% 下降至 GPT-6.2 Astra 更新机制后的 0.2%;针对当前请求推理内容的提取成功率,则从 22.9% 降至 0.9%。上述结果汇总了 6 个攻击模型的数据。
防护由多层措施共同实现:通过对抗性训练让模型识别并拒绝推理链提取请求;借助输入与输出分类器检测相关攻击及推理内容泄露;并在 API 层面限制不同会话、模型和组织之间的推理内容复用。
对 AI 行业而言,这组数据意味着前沿模型的能力外溢通道正在被进一步收窄,蒸馏攻击的成本与难度同步上升。不过,OpenAI 此次公布的是内部测试结果,实际部署环境中的防护表现仍有待外部验证。
本文由新大陆基于公开信息编辑整理
信息来源:IT之家 IT之家原文 ↗