辛顿再发警告:AI 灭绝人类概率约 10%,时间窗口或已缩至十年内
9 月 11 日,据《商业内幕》报道,杰弗里·辛顿在 BBC《新闻之夜》采访中表示,AI 灭绝人类的概率并非为零,10% 是"不算离谱"的估计。他透露这一灾难的时间窗口已从早先的 30 至 50 年缩短至 10 年甚至更短,并提及网络攻击、致命病毒研发等潜在风险路径。
当地时间周三,诺贝尔奖得主、被誉为"AI 教父"的杰弗里·辛顿(Geoffrey Hinton)在接受 BBC《新闻之夜》采访时,就人工智能的生存性风险给出了一个颇具冲击力的量化判断。当主持人维多利亚·德比希尔(Victoria Derbyshire)问及 AI 彻底消灭人类的可能性时,辛顿回应称,这一概率"并非为零",并认为 10% 是一个"不算离谱"的估计。
这一表态与 Anthropic 顶级 AI 安全研究人员雅各布·考克森(Jacob Coxon)此前的判断基本吻合。考克森曾指出,未来 10 年内 AI"有超过 10% 的概率杀死全人类"。德比希尔在听到辛顿的回应后当场表示惊讶。辛顿同时强调,给出精确概率本身极为困难,因为人类社会从未面对过一种"很快就可能比我们更聪明"的技术。他直言:"如果说只有 1% 的概率,那就太愚蠢了。没有人知道该如何估算。"
相比概率数字,辛顿对时间表的修正更值得关注。他回顾了自己判断的演变过程:最初认为灾难性风险将在 30 至 50 年后出现,随后缩短至 10 到 20 年,而如今他认为"可能是 10 年,甚至更短",并补充说其他研究者给出的时间还要更快。至于风险的具体形态,辛顿列举了从网络攻击到 AI 研发出致命病毒等多种可能路径。
值得注意的是,辛顿并未在采访中解释时间窗口为何被大幅压缩。但包括 Anthropic 和 OpenAI 在内的多家前沿 AI 机构近年来持续加码安全研究,这一背景使得他的最新表态更具行业参照意义。对于 AI 从业者而言,辛顿此次发言的核心信息或许不在于 10% 这个数字本身,而在于他作为深度学习奠基者,对风险临近速度的判断正在持续收紧。