快讯 23:46Anthropic 拟登陆纳斯达克,连续两季盈利目标估值 2 万亿美元23:06英伟达联手 Perplexity:本地智能体 Portable Computer 登陆 Windows RTX PC23:05X与SpaceXAI撤回对苹果反垄断诉讼,继续追责OpenAI 全部快讯 →

每日快讯

大厂动态 · 融资事件 · 政策监管 · 前沿论文 · Agent 抓取 + 智能改写,每日 40+ 条

大厂 今天 · 星期二 · 09-15 14:48 约 2 分钟读完

DeepMind前研究员丘格泰离职发声:AI存在灭绝人类风险,规避窗口正在收窄

摘要

谷歌DeepMind前研究工程师比拉尔·丘格泰公开表示,AI有能力灭绝人类,人类规避这一后果的时间可能正在耗尽。此前Anthropic多名研究员也发出类似警告,CEO阿莫代伊呼吁放缓前沿AI研发速度。

AI安全领域的忧虑情绪正在从学术圈蔓延至产业界。9月15日,据路透社报道,谷歌DeepMind前研究工程师比拉尔·丘格泰(Bilal Chughtai)在社交平台X上公开表态,称自己由衷相信AI具备灭绝人类的能力,而人类用于规避这一后果的时间窗口可能正在关闭。这是近期又一位来自头部AI实验室的研究者就AI生存风险发出直接警告。

丘格泰在发文中透露,他此前在DeepMind从事通用人工智能(AGI)安全与对齐方向的研究,近期已从该公司离职。根据其领英资料,他在DeepMind任职期间曾参与多篇研究论文的撰写,离职时间为2026年7月。这一时间节点与近期AI安全研究者接连离职的现象形成呼应。

类似的声音并非孤例。Anthropic研究员雅各布·考克森(Jacob Coxon)上周表示自己已经离职,部分原因在于他认识到,投身AI研发的人真心相信到本十年末AI有可能危及所有人的生命。随后,Anthropic科学家埃文·胡宾格(Evan Hubinger)对考克森的言论作出回应,认同其判断,并表示自己认为未来十年内AI导致人类灭绝的概率超过10%。

这一系列表态已开始影响行业决策层的立场。Anthropic首席执行官达里奥·阿莫代伊(Dario Amodei)上周末呼吁放缓前沿AI的研发速度,该提议罕见地获得了SpaceXAI埃隆·马斯克的认同。随着公众对AI潜在危险的担忧持续加剧,头部实验室内部的安全派声音正逐步走向台前。

AI安全DeepMindAnthropicAGI对齐
本文由新大陆基于公开信息编辑整理
213
收录 AI 工具
23
模型产品档案
41
企业落地案例
4
完整版提示词