OpenAI公布GPT-6.1 Terra安全评估:高危标记率降42%,轻度风险类别反升
摘要
OpenAI公示GPT-6.1 Terra安全测试结果:在48,690个模拟任务中,严重程度3级及以上的安全标记共22个,占比约0.045%,较GPT-6 Sol减少42%、较GPT-5.6 Sol减少64%;但在数据外泄、绕过限制、破坏性行为等较轻风险类别中,标记率高于GPT-6.1 Sol和GPT-6 Astra等较新模型。
OpenAI近日对外公示了新模型GPT-6.1 Terra的安全评估结果。此次评估基于48,690个模拟匹配任务展开,重点统计严重程度达到或超过3级的安全标记数量,为外界观察该模型的风险轮廓提供了量化依据。
从高危风险项来看,GPT-6.1 Terra的表现优于部分早期模型。测试中该模型共收到22个严重程度高于3级(含3级)的安全标记,占比约0.045%。与GPT-6 Sol相比,这一数字下降42%;与GPT-5.6 Sol相比,降幅达到64%。
但评估同时暴露出另一面。在与GPT-6.1 Sol、GPT-6 Astra等较新模型的横向对比中,GPT-6.1 Terra在若干较轻风险类别上的标记率反而更高,涉及掩盖不确定性、绕过限制、数据外泄、破坏性行为以及入站提示注入等情形。
这意味着该模型的风险结构呈现出分化特征:高严重度问题明显收敛,而中低严重度的行为性风险信号有所抬头。对于将模型部署于智能体等自主执行场景的开发者而言,数据外泄与破坏性操作类标记的上升值得在接入前纳入重点评估。
此次公示延续了OpenAI在新模型发布前后披露安全测试数据的做法。评估覆盖生产聊天环境与合成智能体环境等多类选项,相关结论为行业理解新一代模型的能力边界与残余风险提供了参考。
本文由新大陆基于公开信息编辑整理
信息来源:IT之家 IT之家原文 ↗