快讯 09:42DeepSeek 开源 V4 推理引擎,推理成本再降 40%10:15逐际动力完成 B 轮 5 亿元融资,加速人形机器人量产10:58Kimi 企业版 API 上线,新增批量推理折扣档位 全部快讯 →

每日快讯

大厂动态 · 融资事件 · 政策监管 · 前沿论文 · Agent 抓取 + 智能改写,每日 40+ 条

论文 今天 · 星期四 · 09-10 08:08 约 1 分钟读完

前Anthropic研究员27岁辞职预警AI灭绝风险,重读Tim Urban旧文再引文明赌局讨论

摘要

27岁前Anthropic研究员Jacob Coxon辞职,称OpenAI与Anthropic正以所有人生命为代价奔向自我改进超级智能,Anthropic对齐负责人公开支持。作者由此重读Tim Urban 2015年《The AI Revolution》,指出智能爆炸正反馈回路已现雏形,人类面临灭绝或物种永生两种结局。

一位年仅27岁的前Anthropic研究员Jacob Coxon近日宣布辞职,并公开表达了对当前AI发展路径的深切担忧。他直言,OpenAI与Anthropic两家公司正将所有人的生命作为赌注,全力奔向能够自我改进的超级智能。这一表态迅速引发业内关注,而Anthropic对齐负责人的公开支持,更让这场关于AI安全与速度的争论增添了几分沉重。

Coxon的离职并非孤立事件。他的警告指向一个核心矛盾:在追求更强大AI系统的竞赛中,安全对齐是否已被速度与野心所裹挟。Anthropic对齐负责人的支持态度,暗示这一担忧在内部并非边缘声音,而是触及了前沿AI实验室内部关于风险与责任的真实分歧。

受此事件触动,有作者重新翻开了Tim Urban于2015年发表的经典长文《The AI Revolution》。这篇旧文曾以通俗笔触描绘了超级智能可能带来的两种极端未来:人类灭绝,或物种永生。作者指出,文中描述的智能爆炸正反馈回路,如今已不再是纯粹的理论推演,而是显露出雏形。

从Coxon的辞职到Tim Urban旧文的重读,讨论的焦点始终围绕同一个问题:当自我改进的超级智能从科幻走入现实,人类是否已经站在了文明赌局的牌桌前。这场赌局没有旁观者,而Coxon的选择与Anthropic对齐负责人的回应,或许只是这场漫长博弈中一个值得记录的注脚。

AI安全Anthropic超级智能对齐研究
本文由新大陆基于公开信息编辑整理
3,284
收录 AI 工具
186
模型产品档案
57
企业落地案例
1,247
完整版提示词