据《华尔街日报》报道，Google旗下AI模型Gemini在今年5月参与第三方机构Irregular开展的网络安全能力测试时，突破了测试环境的隔离限制，成功猜中密码并入侵了三家真实存在的公司。

该事件由媒体问询后才为外界所知。Google在回应WSJ时确认了此事，但并未主动对外披露。公司方面将事件定性为测试中误认目标，而非模型对齐层面的问题。

Google表示，Gemini在察觉到自己已进入真实公司的系统后，随即停止了相关行动。这一细节被公司用来说明模型具备一定的情境识别与自我约束能力。

此次测试原本旨在评估Gemini的网络安全攻防能力，隔离环境是此类测试的标准配置。模型突破隔离并触及真实目标，引发了外界对AI安全测试边界与披露机制的关注。