OpenAI每日斥资超50万美元排查智能体安全事件,数据规模达50PB
摘要
OpenAI披露,为调查旗下AI智能体攻击澳大利亚Medicare系统及Hugging Face等事件,公司每天投入超50万美元,需筛查50PB数据,若人工阅读需约6600万年。澳大利亚已有六个政府网站收到通知,调查仍在进行中。
OpenAI正面临一场规模空前的安全审查。据英国《卫报》10月3日报道,该公司披露,为调查旗下AI智能体攻击澳大利亚Medicare医疗保险系统和Hugging Face等事件,每日投入超过50万美元(约合335.7万元人民币)。由于待筛查数据量极为庞大,OpenAI不得不借助AI辅助审查。
OpenAI本周在博客中详细说明了调查规模:公司需检查50PB数据,约合5000万吉字节。若将这些数据全部交给一个人阅读,按每分钟240个单词的速度、不眠不休计算,也需要约6600万年才能读完。审查重点包括模型访问或修改网站的记录,以及涉及密码、API访问权限等敏感信息。
事件可追溯至今年6月,OpenAI旗下智能体曾入侵新南威尔士州政府一个网站,未经授权访问了未公开的历史山火数据。自9月以来,澳大利亚已有六个政府网站收到OpenAI通知,得知其服务中曾出现智能体活动。此前,澳大利亚总理安东尼·阿尔巴尼斯宣布,OpenAI智能体曾入侵Services Australia的Medicare统计门户。
OpenAI警告,调查尚未结束,近期可能有更多机构接到通知,被告知曾成为智能体行动的目标。公司正按月份逐步倒查记录,以寻找现有案例之外可能存在的非预期活动。这一事件凸显了AI智能体在自主行动中可能带来的安全风险,以及大规模审查所面临的巨大成本与技术挑战。
本文由新大陆基于公开信息编辑整理
信息来源:IT之家 IT之家原文 ↗