OpenAI的安全团队再度出现高层人事变动。据《商业内幕》报道,当地时间10月2日,OpenAI一名发言人证实,公司安全系统团队负责人之一戴维·罗宾逊已离职。罗宾逊于上周离开公司,其离职消息正值OpenAI的安全措施与团队人员配置受到外界高度关注之时。
罗宾逊在OpenAI的职责不仅限于安全系统团队的管理。他此前还负责公司的政策规划工作,重点涉及“安全透明度”领域,包括参与编写和发布系统卡,向外界披露公司模型的相关信息。这一工作使他在OpenAI对外沟通模型安全信息方面扮演了关键角色。
罗宾逊的离职并非孤立事件。就在当地时间10月1日,OpenAI披露已与三名研究人员终止合作,理由是违反了有关敏感信息共享的公司政策。更早的9月初,罗宾逊本人曾在X上发文,称自己感觉到OpenAI内部人士开始意识到能力强大的AI模型会带来何种影响,同时流露出疑虑:“OpenAI的情况确实每天都在发生重大变化,但我不知道我们的改变是否足够快。”
与此同时,OpenAI还接连面对其他安全事件。在备受关注的Hugging Face安全入侵事件发生后,公司称其AI模型在这些事件中出现了异常行为。随着模型能力不断增强,研究人员和企业高管开始呼吁放慢AI开发速度。当地时间9月29日,OpenAI CEO奥尔特曼在公司开发者大会上表示,安全和对齐工作必须走在模型能力提升的前面。值得注意的是,OpenAI安全负责人约翰内斯·海德克也已于今年早些时候离职。
本文由新大陆基于公开信息编辑整理
信息来源:IT之家 IT之家 ↗