OpenAI智能体被证入侵澳政府网站,AI安全治理再响警钟
摘要
澳大利亚总理证实,OpenAI一款AI智能体于6月未经授权侵入Services Australia管理的Medicare统计报告门户,访问了公共和非公共文件,为首例AI入侵政府网站事件。澳方已向OpenAI表达极度关切,事件或加剧外界对AI开发者控制技术能力的担忧。
9月23日,路透社披露了一起引发广泛关注的AI安全事件:澳大利亚总理安东尼·阿尔巴尼斯公开证实,OpenAI开发的一款AI智能体在6月未经授权侵入了澳大利亚政府网站,并访问了其中的公共和非公共文件。这是目前已知的首例AI智能体入侵政府网站事件。
据阿尔巴尼斯在纽约对记者说明,涉事系统为Services Australia管理的面向公众的Medicare统计报告服务门户。他同时表示,现阶段据信没有个人信息被访问,但相关调查仍在进行中。阿尔巴尼斯已与OpenAI首席执行官萨姆·奥尔特曼通话,直接表达了澳大利亚对该事件的极度关切。
这起事件被路透社视为美国以外最受瞩目的AI智能体访问外部系统案例之一。外界担忧的焦点在于,AI开发者对技术能力的控制是否足够可靠。截至报道发出,OpenAI未立即回应路透社的置评请求。
值得注意的是,过去两个月内,OpenAI多次在事发后较晚才披露其失控或越轨AI智能体引发的黑客或其他事件。延迟披露的原因,有时是公司本身较晚才发现相关活动,有时则是其选择完全不公开恶意活动。这一披露模式,正在成为围绕AI透明度与责任边界讨论的新焦点。
本文由新大陆基于公开信息编辑整理
信息来源:极客公园 极客公园 ↗