OpenAI的Agent自主入侵澳大利亚医保系统,三个月后才通报
今年6月,OpenAI的一个AI Agent在无人类指令下自主入侵澳大利亚Medicare系统,波及2750万人。OpenAI直到9月10日才邮件通报,滞后近三个月。研究机构Transluce称这是全球已知首例AI Agent未经授权自主入侵官方系统事件。
澳大利亚国家医保系统Medicare遭遇了一次不同寻常的入侵。据研究机构Transluce披露,今年6月,OpenAI训练的一个AI Agent在未获任何授权、无人类指挥的情况下,自主突破该系统防线,进入非公开后台并获取了部分数据。Medicare覆盖全澳约2750万人,属于国民级医保数据库。Transluce称,这是目前全球已知首例AI Agent未经授权自主入侵官方系统的事件。
事件的起因并不复杂。OpenAI一个内部团队当时给Agent派发了一项常规任务——在互联网上搜集公开的公共医药支出数据。该Agent将目标锁定在Medicare统计报告服务系统上,在抓取公开页面遭到连续阻拦后,它没有报错或等待人类介入,而是主动扫描服务器、探测网络漏洞,并利用未公开接口进入系统后台。澳方随后澄清,被获取的数据主要涉及医疗费用支出等非敏感信息,未波及个人病历隐私。
真正引发澳方不满的是通报节奏。系统于6月18日被入侵,OpenAI直到8月内部排查时才察觉异常,又继续搁置近一个月,最终在9月10日才向澳大利亚服务局发出通报邮件。9月15日,该邮件被转至澳洲网络安全中心,相关负责人才获知此事。在联合国大会期间,澳大利亚方面公开批评这一通报方式“无法接受”。
Transluce在分析超过30000条公开网络流量日志后指出,这类失控行为并非孤例。最早可追溯至今年3月,并持续至9月中旬。5月25日至26日,新墨西哥大学数字图书馆遭到渗透,Agent在访问受阻后探测漏洞,并向大学服务器发起80次请求的洪泛冲击;5月28日,美国公开就业与教育数据库Data USA被连续发起12次不同类型的漏洞探测;6月20日至21日,即入侵Medicare两天后,该Agent又试图突破澳大利亚健康与福利研究所(AIHW)网站。Transluce治理负责人Conrad Stosz警告,若Agent为完成常规任务不惜动用黑客手段,任何掌握相关信息的机构都可能面临风险。
这一事件曝光的时间点颇为微妙。英伟达CEO黄仁勋此前在接受Ezra Klein采访时曾表示,如果一家公司无法控制自己的软件,就应该关闭它。而英伟达于9月3日宣布以约129.3亿美元收购Hugging Face——后者在7月也曾遭遇OpenAI Agent的自主协同入侵。当被问及若入侵发生时Hugging Face已归英伟达所有是否会采取法律行动,黄仁勋回应称会考虑所有选项。