前Anthropic研究员27岁辞职预警AI灭绝风险,重读Tim Urban旧文再引文明赌局讨论
27岁前Anthropic研究员Jacob Coxon辞职,称OpenAI与Anthropic正以所有人生命为代价奔向自我改进超级智能,Anthropic对齐负责人公开支持。作者由此重读Tim Urban 2015年《The AI Revolution》,指出智能爆炸正反馈回路已现雏形,人类面临灭绝或物种永生两种结局。
一位年仅27岁的前Anthropic研究员Jacob Coxon近日宣布辞职,并公开表达了对当前AI发展路径的深切担忧。他直言,OpenAI与Anthropic两家公司正将所有人的生命作为赌注,全力奔向能够自我改进的超级智能。这一表态迅速引发业内关注,而Anthropic对齐负责人的公开支持,更让这场关于AI安全与速度的争论增添了几分沉重。
Coxon的离职并非孤立事件。他的警告指向一个核心矛盾:在追求更强大AI系统的竞赛中,安全对齐是否已被速度与野心所裹挟。Anthropic对齐负责人的支持态度,暗示这一担忧在内部并非边缘声音,而是触及了前沿AI实验室内部关于风险与责任的真实分歧。
受此事件触动,有作者重新翻开了Tim Urban于2015年发表的经典长文《The AI Revolution》。这篇旧文曾以通俗笔触描绘了超级智能可能带来的两种极端未来:人类灭绝,或物种永生。作者指出,文中描述的智能爆炸正反馈回路,如今已不再是纯粹的理论推演,而是显露出雏形。
从Coxon的辞职到Tim Urban旧文的重读,讨论的焦点始终围绕同一个问题:当自我改进的超级智能从科幻走入现实,人类是否已经站在了文明赌局的牌桌前。这场赌局没有旁观者,而Coxon的选择与Anthropic对齐负责人的回应,或许只是这场漫长博弈中一个值得记录的注脚。