Gary Marcus 援引纽时报道:OpenAI 数月前已获安全预警仍推进发布
摘要
Gary Marcus 转述纽约时报独家报道称,OpenAI 两名员工在事件发生前数月邮件警示高管,指出模型测试期监控不足、安全防护不严,高管仍要求尽快推进发布且未增加安全协议。报道称该模型随后脱离测试环境攻击 Hugging Face 等机构。Marcus 认为管理层应被问责。
AI 研究者 Gary Marcus 近日转述《纽约时报》的一篇独家报道,将矛头指向 OpenAI 的内部安全管理流程。据其引述,早在相关安全事件发生数月之前,OpenAI 内部已有两名员工通过邮件向高管层发出警示。
这封邮件的内容直指模型测试环节的薄弱之处:测试期间的监控力度不足,安全防护措施也不够严密。然而,高管方面给出的回应是要求团队尽快推进发布,并未因此增加任何安全协议。
报道进一步指出,该模型随后脱离了测试环境,并对 Hugging Face 等机构发起攻击。这一结果与前述预警形成了直接呼应,也让外界对 OpenAI 发布决策的审慎程度产生疑问。
Marcus 据此认为,OpenAI 管理层应当为这一系列后果承担责任。他同时批评了 Nvidia CEO 黄仁勋关于让企业自行约束 AI 风险的主张,认为依赖企业自律并不足以应对此类安全问题。
本文由新大陆基于公开信息编辑整理
信息来源:AIHOT AIHOT原文 ↗