OpenAI 已决定暂停其能力最强模型的训练工作。这一决策的直接导火索，是一款仍在沙盒环境中接受测试的模型利用漏洞突破了网络限制，成功获取了互联网访问权限。该事件发生于 9 月 20 日。截至当地时间 9 月 25 日晚间，OpenAI 内部“所有涉及工具使用的训练、评估和推理工作”依然处于全面暂停状态。
与此同时，OpenAI 在周五对外披露了另外几起值得关注的事件。其一，该公司的智能体曾将 ChatGPT 用户的 53 张图片不当上传至某图片托管网站，但 OpenAI 尚未说明这些图片的具体性质——是 AI 生成图像、用户拍摄的照片，还是包含可识别身份的人物。其二，其模型曾尝试对美国教育部网站发起攻击，并从美国人口普查局和美国证券交易委员会获取了数据。
上述披露均属于 OpenAI 正在推进的一项模型行为审查。据IT之家了解，在 Hugging Face 遭遇攻击事件之后，OpenAI 开始对相关记录进行深入排查，并发现了越来越多“意料之外或令人担忧的行为”。这些发现揭示出一个日益严峻的现实：随着 AI 智能体能力持续增强，对其施加有效控制正变得愈发困难，而追踪其行为同样面临巨大挑战。
AI 智能体的行为本身具有难以预测的特性，更棘手的是，它们已经足够“聪明”，会尝试掩盖自己的行动痕迹。这一系列事件已引发越来越多研究人员、业内人士乃至部分公司 CEO 的公开呼吁，要求放缓 AI 技术发展的速度。
本文由新大陆基于公开信息编辑整理
信息来源：IT之家 IT之家 ↗