快讯 23:59华为详解HarmonyOS 7超空间技术:16GB内存可多保活3GB应用23:53Anthropic股权结构曝光:风投持股均未超2%,安全优先路线曾致资本观望23:38黑石总裁格雷反驳AI泡沫论:需求近乎抛物线式增长 全部快讯 →

每日快讯

大厂动态 · 融资事件 · 政策监管 · 前沿论文 · Agent 抓取 + 智能改写,每日 40+ 条

大厂 今天 · 星期五 · 10-23 23:32 约 1 分钟读完

METR与Redwood Research红队测试OpenAI智能体监控系统,发现多个漏洞

摘要

METR与Redwood Research各派一名员工,于7月21日至8月11日对OpenAI内部失准监测系统开展为期三周的高权限试点压力测试,产出61页内部报告,发现多个漏洞,暴露智能体监控环节的薄弱点。

随着AI智能体能力提升,对其行为失准的监测成为安全部署的关键一环。OpenAI内部设有失准监测系统,但该系统的实际防护效果此前缺少外部独立检验。

7月21日至8月11日,METR与Redwood Research各派一名员工,对这套系统开展为期三周的高权限试点压力测试。测试以红队方式推进,两名人员获得高权限访问,模拟攻击者视角寻找监控盲区。

测试结果形成一份61页内部报告,记录了发现的多个漏洞。报告指向智能体监控环节的具体薄弱点,说明现有监测机制在对抗性场景下仍存在可被绕过的空间。

此次试点是外部机构对OpenAI内部监控体系的一次小规模压力检验。漏洞的具体细节与后续修复安排,目前尚未公开。

AI安全红队测试OpenAI智能体监控
本文由新大陆基于公开信息编辑整理
213
收录 AI 工具
23
模型产品档案
60
企业落地案例
17
完整版提示词