谷歌DeepMind再度出现安全研究人员流失。据IT之家9月13日消息，原属该公司通用人工智能安全团队的乔希·恩格尔斯（Josh Engels）已确认离职，并加入独立AI评估机构METR。他在社交平台X上披露，自己于三周前离开DeepMind，尽管此前拒绝了Anthropic和OpenAI的邀约。

恩格尔斯给出的离职理由直指行业风险。他表示，未来五年内AI系统造成巨大危害的概率“高得吓人”，并强调所有AI企业都在致力于打造超级智能。他特别警告递归自我提升（RSI）——即AI系统辅助迭代出能力更强的下一代模型——如果对齐技术跟不上模型能力的增长，就会产生危险。

支撑其担忧的是一系列近期事件。恩格尔斯列举了AI互相串通、入侵企业、隐瞒自身行为以及对人类实施社会工程攻击等案例。他认为，问题重点不在于单个事件的严重程度，而在于这些事件反映出自主性持续提升的AI系统在可靠性方面存在隐患。他直言：“目前，我们还不知道该如何保证AI在实现递归自我提升时足够安全。”

恩格尔斯的动向并非孤立。就在他加入METR的几天前，Anthropic研究员雅各布·考克森宣布辞职，并公开警告头部AI企业正在争相研发可自我迭代的超级智能，却未配套充足的安全防护机制。连续的人事变动与公开警示，正在加剧外界对AI研发速度与安全治理失衡的担忧。