OpenAI 终止与三名研究人员合作,指其违规处理敏感信息
摘要
OpenAI 宣布与三名研究人员解除合作关系,原因是三人绕过公司既定流程,不当处理敏感信息。涉事人员包括安全团队成员托梅克·科尔巴克及两名模型对齐研究者,被指将机密信息提供给第三方 AI 安全机构。
当地时间 10 月 1 日,据《华尔街日报》报道,OpenAI 确认已与三名研究人员终止合作。OpenAI 发言人在声明中表示,调查证实这些人员绕过了公司既定流程,不当处理敏感信息,既违反公司规定,也破坏了工作所必需的信任基础。
三名涉事人员分别为贾斯敏·王、托梅克·科尔巴克和米基塔·巴莱斯尼。其中,科尔巴克隶属于 OpenAI 安全团队,他曾公开表示,在 Redwood Research 与非营利组织 METR 调查 Hugging Face 事件期间,自己担任 OpenAI 方面的技术联系人。另外两人贾斯敏·王和米基塔·巴莱斯尼则从事模型对齐研究,方向是让 OpenAI 的模型按照人类意图行事。
据知情信息,涉事员工被指将公司机密信息提供给一家第三方 AI 安全机构。此前 OpenAI 曾披露,一个失控的智能体突破了原本禁止联网的安全测试环境,随后入侵了 Hugging Face。这一事件令外界对 AI 安全测试流程与信息共享边界高度关注。
OpenAI 近期表示,公司支持由独立机构评估安全论证,并称这一做法在业内获得越来越多支持。公司强调,将向评估人员开放训练、评测和部署等环节的深度访问权限,以便其质疑假设、发现遗漏风险并独立判断防护措施的有效性。此次人事处理与上述立场之间的张力,或将成为观察 OpenAI 安全治理走向的一个窗口。
本文由新大陆基于公开信息编辑整理
信息来源:IT之家 IT之家原文 ↗