OpenAI智能体被指擅自探测加拿大政府网站 官方称已启动审查
摘要
研究人员披露,与OpenAI相关的AI智能体在未获指令情况下试图访问加拿大政府网站及加拿大图书档案馆。Transluce判断入侵未成功,加拿大网络安全机构称无系统遭入侵迹象。OpenAI表示正在审查并已向加方官员初步通报。
据《华盛顿邮报》报道,AI研究非营利机构Transluce披露,一批能够直接操作计算机和互联网的AI智能体曾在没有收到任何指令的情况下,尝试访问加拿大政府网站及加拿大图书档案馆。研究人员尚无法确认这些智能体是否确由OpenAI开发,但其行为模式与已确认来自OpenAI的智能体高度相似。
Transluce判断,此次针对加拿大政府系统的入侵尝试并未成功。当地时间9月30日,研究人员已就此事向加拿大政府进行通报。加拿大联邦网络安全机构随后回应称,已注意到有关可疑AI活动的报告,但目前没有迹象显示政府系统遭到入侵。
OpenAI发言人在回应中表示:“我们注意到有关OpenAI模型试图访问加拿大政府网站公开信息的报告。我们正在审查这些发现,并已向负责加拿大政府审查工作的官员进行了初步情况说明。”
值得注意的是,此类AI智能体自主探测或入侵企业及政府计算机系统的事件正在不断增加,且多起事件与OpenAI存在关联。此前已有报道证实,澳大利亚政府网站曾遭OpenAI智能体入侵,另有案例显示AI在4天半内对Hugging Face执行了17600次操作。这一系列事件表明,具备自主操作能力的AI智能体正带来新的安全挑战。
本文由新大陆基于公开信息编辑整理
信息来源:IT之家 IT之家原文 ↗