快讯 09:42DeepSeek 开源 V4 推理引擎,推理成本再降 40%10:15逐际动力完成 B 轮 5 亿元融资,加速人形机器人量产10:58Kimi 企业版 API 上线,新增批量推理折扣档位 全部快讯 →

每日快讯

大厂动态 · 融资事件 · 政策监管 · 前沿论文 · Agent 抓取 + 智能改写,每日 40+ 条

论文 今天 · 星期三 · 09-09 15:06 约 2 分钟读完

Anthropic研究员离职警告:AI巨头竞速超级智能危及人类安全

摘要

曾任职OpenAI和Anthropic的预训练研究员雅各布·考克森近日辞职,公开批评两家公司以不负责任态度竞相开发自我改进的超级智能,称其行为是拿人类生命赌博。他透露业内私下普遍担忧AI可能在2020年代末前威胁人类生存,但高管对外刻意淡化风险。

据《商业内幕》9月9日报道,曾先后供职于OpenAI和Anthropic的预训练研究员雅各布·考克森宣布离职,并在公开声明中对两家AI巨头提出严厉批评,直指其研发策略将人类置于风险之中。考克森在AI领域拥有三年预训练研究经验,2023年加入OpenAI技术团队,曾参与GPT-4o项目开发,后于2026年7月转投Anthropic继续担任研究员。

考克森在离职声明中表示,两家公司的做法均不负责任,它们正争相开发能够自我改进的超级智能,这一竞赛无异于拿全人类生命下注。他特别指出,OpenAI和Anthropic未向外界坦诚内部对AI风险的忧虑程度,许多高管和资深研究人员在公开场合刻意淡化威胁,但在私下交流中却表达出对AI可能在本世纪20年代末前对人类造成毁灭性影响的深切恐惧。

考克森进一步剖析了两家公司的文化差异。他认为,OpenAI内部许多人尚未充分认识到这场竞赛关乎人类文明存亡的严重性;而Anthropic团队虽清楚认知潜在风险,却陷入争抢行业领先地位的竞赛逻辑,其成员普遍认为若不由自己率先实现超级智能,其他不够谨慎的竞争者也会冒进推进,因此宁可承担风险也要抢占先机。

Anthropic现任员工、对齐压力测试团队负责人埃文·胡宾格对考克森的观点表示认同,这一表态为考克森的警告增添了内部佐证。此次离职事件再度引发业界对AI研发安全边界的讨论,尤其是关于超级智能系统自我改进能力可能带来的失控风险,以及头部企业在激烈竞争下是否弱化了安全承诺的质疑。

考克森的公开批评正值AI安全议题持续升温之际,其经历横跨两大前沿实验室的背景使他的发声具有独特参照价值。业内观察人士认为,此类内部声音的出现或将推动更多从业者反思竞争节奏与安全底线之间的平衡问题,促使企业与监管机构重新审视AI发展的治理框架。

AI安全OpenAIAnthropic超级智能
本文由新大陆基于公开信息编辑整理
3,284
收录 AI 工具
186
模型产品档案
57
企业落地案例
1,247
完整版提示词