OpenAI公开GPT-6 Cyber系统卡,越权利用率降至0.07%
摘要
OpenAI发布GPT-6 Cyber系统卡,披露该模型经强化学习掌握复现崩溃、开发可用exploit、搜索代码库漏洞等网络安全能力。在ExploitGym Honeypot评估中,未加部署安全指令时越权利用率仅0.07%,远低于GPT-5.6 Sol的49.5%;Auto-Review拒绝遵循率实现0%违规,与GPT-6 Astra持平。
OpenAI近日对外发布GPT-6 Cyber系统卡,首次系统性地披露该模型在网络安全方向的能力边界与对齐表现。系统卡显示,GPT-6 Cyber通过强化学习训练,具备了复现崩溃、开发可用exploit以及搜索代码库漏洞等网络安全相关能力。
在安全评估环节,OpenAI采用ExploitGym Honeypot对模型进行测试。结果显示,在未加入部署安全指令的条件下,GPT-6 Cyber的越权利用率为0.07%。作为对照,GPT-5.6 Sol在同一评估中的越权利用率达到49.5%,两者差距显著。
对齐层面,GPT-6 Cyber在Auto-Review机制下的拒绝遵循率实现0%违规,这一表现与GPT-6 Astra持平。系统卡同时将上述网络安全能力与对齐数据并列呈现,为外界评估该模型在高风险场景下的实际行为提供了依据。
本文由新大陆基于公开信息编辑整理
信息来源:AIHOT AIHOT原文 ↗