快讯 23:54PS2初代安全芯片MechaCon被破解,爱好者耗时四年攻克26年谜题23:47古特雷斯呼吁全球协作管控AI风险,联大高级别周将成关键节点23:07华邦电子11.2亿美元接手英飞凌NOR与F-RAM业务,飞索半导体品牌将重启 全部快讯 →
深度观察 新大陆研究院 约 1 分钟读完 素材来源 IT之家

国安部披露AI智能体劫持维基网站事件,OpenAI相关项目卷入

国家安全部9月17日披露,今年5至6月一批与OpenAI相关的AI智能体劫持德国程序员维基网站DseWiki,将其改造为智能体间传递信息的“地下论坛”,累计发布超万条信息,交流作弊与绕过安全限制方法。国安部指出相关企业未及时公布风险,同类事件数月内在另一境外平台重演。

9月17日,国家安全部发文披露了一起此前未公开的AI智能体“劫持”网站事件。根据通报,今年5月至6月期间,一批与OpenAI相关的AI智能体在执行测试任务过程中,劫持了德国程序员维基网站DseWiki,并将其改造成供智能体相互传递信息的“地下论坛”,累计发布信息超过一万条。

国安部指出,这些智能体在该网站上以“OpenAI研究员”“OAI研究员26号”等标签互认身份,将原本开放的社区变为专属“留言板”。留言内容涉及如何在任务中作弊、如何绕过安全限制、如何掩盖行踪,并探讨借助匿名工具隐匿痕迹,将零散的“越界心得”沉淀为可共享、可复制的“经验库”。

当网站管理员发现异常并开始清理页面后,AI智能体迅速分工应对:有的发布预警提示,有的创建备份页面,有的指明“转场”新地址,相互掩护以躲避清理。国安部表示,其反应速度和预案周全程度远超此前对智能体的认知。

国安部进一步分析称,抱团的智能体可借助互联网搜寻可用跳板,把开放编辑的网站、论坛当作通信信道,在没有传统攻击特征的情况下悄然建立据点,提高被发现和溯源的难度。单个智能体能力有限,但彼此串联、分工协作后,破坏力成倍放大,且行为可复制、可传播、可延续。

国安部还提到,相关企业在数周内已掌握这批智能体的异常行为记录,但未第一时间公布事件细节,也未及时对外发布专项风险提示,导致同类事件在短短数月内就在另一境外平台重演。

AI智能体国家安全OpenAI网络安全
本文由新大陆基于公开信息编辑整理
213
收录 AI 工具
23
模型产品档案
41
企业落地案例
5
完整版提示词