奥尔特曼内部会议透露OpenAI或放缓前沿AI开发节奏
摘要
据彭博社报道,OpenAI CEO奥尔特曼在全员会议上表示,公司可能放缓尖端AI开发速度,并希望与其他AI实验室协同行动。首席科学家帕乔基近期也发文呼吁行业在安全标准建立前自愿减速,头部AI公司内部对先进系统风险的担忧正在加剧。
北京时间9月11日,彭博社援引多名知情人士消息称,OpenAI首席执行官萨姆·奥尔特曼在本周一场面向全体员工的会议上透露,公司正在评估放慢尖端人工智能开发进度的可能性。他同时表达了希望其他AI实验室采取类似步调的意愿,但也坦言并非所有公司都会认同这一做法。
这一表态并非孤立事件。OpenAI首席科学家雅库布·帕乔基近日公开发文,对AI技术带来的风险发出警示。他在文章中主张,AI企业应当在必要时采取协调行动,主动放缓未来的开发进程,并期望在行业共同安全标准确立之前,自愿减速能够逐步成为普遍实践。
事实上,OpenAI此前已因安全考量调整过部分模型的研发节奏,并叫停了某些内部AI训练项目。奥尔特曼在今年7月也曾表示,他已就放缓AI开发的必要性与白宫官员进行过讨论。与此同时,Anthropic联合OpenAI等头部实验室的多名员工近期接连公开表达对先进AI系统风险上升的忧虑,令企业内部的不安情绪进一步升温。
值得关注的是,今年早些时候,OpenAI与竞争对手Anthropic均已秘密提交上市文件。周二,AnthropicAI研究员雅各布·考克森宣布辞职,并对其两家前雇主Anthropic和OpenAI在竞逐超级智能AI过程中的做法提出指控。在商业竞争与安全诉求交织的背景下,头部AI公司如何平衡开发速度与风险管控,正成为行业持续关注的焦点。
本文由新大陆基于公开信息编辑整理
信息来源:IT之家 IT之家原文 ↗