快讯 22:26李在明视察蔚山在建数据中心,强调AI竞赛速度决定成败08:00Together AI 披露提示词泄露事件:编码 agent 误传凭证致样本外泄08:00Qwen4 Max登陆Together AI,1M上下文加持整仓bug修复 全部快讯 →

每日快讯

大厂动态 · 融资事件 · 政策监管 · 前沿论文 · Agent 抓取 + 智能改写,每日 40+ 条

大厂 昨天 · 星期六 · 11-21 09:45 约 1 分钟读完

OpenAI 强化反蒸馏防护:GPT-6.2 Astra 思考链提取成功率降至 0.2%

摘要

OpenAI 公布对抗性蒸馏防御进展,GPT-6.2 Astra 与 GPT-6.2 Sol 的推理思考链保护升级。黑盒红队测试显示,历史请求推理内容提取成功率从 54.0% 降至 0.2%,当前请求从 22.9% 降至 0.9%,数据汇总自 6 个攻击模型。

11 月 20 日,OpenAI 对外披露了针对「对抗性蒸馏」的最新防御部署,重点在于加固 GPT-6.2 Astra 与 GPT-6.2 Sol 对内部推理思考链的保护。所谓对抗性蒸馏,指未经授权利用前沿模型的输出训练其他模型,使后者获得相近能力却缺乏同等安全护栏,OpenAI 认为这可能导致网络安全、生物学等领域的高风险能力流向安全限制更弱的模型。

在内部自适应黑盒红队测试中,OpenAI 量化了防护效果。针对此前请求中受保护推理内容的提取成功率,从 GPT-6 Astra 原有安全机制下的 54.0% 下降至 GPT-6.2 Astra 更新机制后的 0.2%;针对当前请求推理内容的提取成功率,则从 22.9% 降至 0.9%。上述结果汇总了 6 个攻击模型的数据。

防护由多层措施共同实现:通过对抗性训练让模型识别并拒绝推理链提取请求;借助输入与输出分类器检测相关攻击及推理内容泄露;并在 API 层面限制不同会话、模型和组织之间的推理内容复用。

对 AI 行业而言,这组数据意味着前沿模型的能力外溢通道正在被进一步收窄,蒸馏攻击的成本与难度同步上升。不过,OpenAI 此次公布的是内部测试结果,实际部署环境中的防护表现仍有待外部验证。

OpenAI对抗性蒸馏模型安全GPT-6.2
本文由新大陆基于公开信息编辑整理
213
收录 AI 工具
27
模型产品档案
60
企业落地案例
33
完整版提示词