OpenAI前安全负责人罗宾逊离职后批评公司安全实践与公开表态不符
摘要
OpenAI安全系统团队前负责人戴维·罗宾逊离职后指出,公司公开警告AI风险并呼吁放缓开发,内部却全速训练和部署被自身警告存在危险的模型。今年7月数百名员工曾联名呼吁监管,9月CEO奥尔特曼也表态需控制前沿AI节奏,但办公室仍高速运转。
据《商业内幕》10月8日凌晨报道,上周从OpenAI离职的安全系统团队前负责人之一戴维·罗宾逊,对老东家在AI安全问题上的做法提出尖锐批评。他认为,OpenAI在公开场合反复警告新模型能力增强可能带来风险,并谈论放慢AI开发速度,但公司内部的实际行动却与此相悖。
罗宾逊直言,最让他感到矛盾的是,团队不断发布风险警告,最终却仍在训练和部署那些被自己警告存在危险的模型。他描述OpenAI办公室仍处于高速运转状态,许多人几乎靠透支精力支撑工作,各部门工作同时汇聚,整个过程充满肾上腺素。
这一批评的背景是,今年7月数百名OpenAI员工签署公开信,呼吁政府出台监管措施为AI开发降速。此前,Anthropic CEO阿莫迪呼吁AI公司自行协调共同放慢开发速度。今年9月,OpenAI CEO奥尔特曼对此表示赞同,称需要控制前沿AI的发展节奏,并透露过去几周这一直是OpenAI内部讨论的主要议题之一。
OpenAI研究人员并不讳言让AI自行提升能力可能带来的危险,这种过程被称为“递归自我改进”。今年9月,OpenAI首席科学家雅库布·帕乔茨基在一篇讨论递归自我改进的博客文章中警告:“眼下需要极度谨”——原文在此处截断,但已足以反映公司内部对相关风险的认知与公开讨论。罗宾逊的批评,则将这种认知与实际行动之间的落差推到了台前。
本文由新大陆基于公开信息编辑整理
信息来源:IT之家 IT之家原文 ↗