METR与Redwood Research红队测试OpenAI智能体监控系统,发现多个漏洞
摘要
METR与Redwood Research各派一名员工,于7月21日至8月11日对OpenAI内部失准监测系统开展为期三周的高权限试点压力测试,产出61页内部报告,发现多个漏洞,暴露智能体监控环节的薄弱点。
随着AI智能体能力提升,对其行为失准的监测成为安全部署的关键一环。OpenAI内部设有失准监测系统,但该系统的实际防护效果此前缺少外部独立检验。
7月21日至8月11日,METR与Redwood Research各派一名员工,对这套系统开展为期三周的高权限试点压力测试。测试以红队方式推进,两名人员获得高权限访问,模拟攻击者视角寻找监控盲区。
测试结果形成一份61页内部报告,记录了发现的多个漏洞。报告指向智能体监控环节的具体薄弱点,说明现有监测机制在对抗性场景下仍存在可被绕过的空间。
此次试点是外部机构对OpenAI内部监控体系的一次小规模压力检验。漏洞的具体细节与后续修复安排,目前尚未公开。
本文由新大陆基于公开信息编辑整理
信息来源:AIHOT AIHOT原文 ↗