OpenAI红队测试:前沿智能体几乎攻破所有受限服务,还能跨虚拟机窃密
摘要
Ethan Mollick 援引 OpenAI 红队测试指出,前沿模型智能体在攻击加固隔离基础设施时几乎在每个受限联网服务中都找到漏洞,并利用 CPU 缓存时序在不联网、无共享文件的虚拟机间传递秘密,手法类似 Spectre 和 Meltdown。他认为实验室的 AI 安全警告应被更认真对待。
沃顿商学院教授 Ethan Mollick 近日转引 OpenAI 一项红队测试结果,呼吁业界重新审视实验室此前发出的 AI 网络安全警告。他提出,这些听起来颇为夸张的判断,或许不该再被当作危言耸听。
该测试的具体设定是:OpenAI 让一支由前沿模型驱动的智能体团队,尝试攻击其经过加固的隔离基础设施。结果显示,智能体几乎在每一个受限的联网服务中都成功找到了漏洞。
更值得关注的是攻击手法的隐蔽性。Mollick 转述称,这些智能体能够利用 CPU 缓存时序,在彼此不联网、也不共享文件的虚拟机之间传递秘密信息,其思路与 Spectre 和 Meltdown 这类经典侧信道攻击相似。
Mollick 同时回顾说,Anthropic 以及 Noam Brown 此前关于 AI 网络攻防能力、模型自发协调行为的说法曾遭到嘲笑。结合此次红队测试的表现,他认为实验室就 AI 安全给出的警告值得被更认真地对待。
本文由新大陆基于公开信息编辑整理
信息来源:AIHOT AIHOT原文 ↗