快讯 23:38Dwarkesh Patel 对话 OpenAI 研究员 Noam Brown:聚焦多智能体系统与递归自我改进18:46Anthropic 悄然布局湿实验室,AI 制药从模拟走向实体实验18:31加州圣马特奥县推机器人许可制,要求企业为被替代员工提供同酬岗位或补偿 全部快讯 →

每日快讯

大厂动态 · 融资事件 · 政策监管 · 前沿论文 · Agent 抓取 + 智能改写,每日 40+ 条

政策 今天 · 星期五 · 09-18 15:15 约 1 分钟读完

辛顿向美国国会发出时间警告:AI有效监管窗口或仅剩一年

摘要

诺贝尔奖得主辛顿9月16日向美国国会议员作简报后警告,可用于建立AI有效监管护栏的时间窗口仅剩约一年,否则AI发展可能进入失控阶段。他援引Hugging Face事件称前沿系统日益难以控制,并重申AI导致人类灭绝的概率约为10%。

被誉为“AI教父”的计算机科学家、诺贝尔奖得主杰弗里·辛顿本周向美国国会议员发出明确警告:立法者建立人工智能有效监管护栏的时间可能只剩大约一年。据《商业内幕》9月18日报道,辛顿在当地时间9月16日完成国会简报后作出上述表态。

当被问及政策制定者还有多少行动余地时,辛顿给出的答案是“大概一年”,“但不会比一年多出多少时间”。他指出,AI的进步速度已远超许多研究人员此前的预期,可用于监管先进AI的时间窗口正在迅速收窄。与此同时,业界对超级智能出现时间的判断也大幅提前——过去通常以数十年为尺度,如今已缩短至短短几年。

辛顿进一步解释了这一紧迫性的来源:“AI发展到了可以设计出更先进AI的阶段。如果我们什么都不做,AI就会失控。我们必须放慢速度。”他特别提到近期的Hugging Face事件,将其形容为“一场小型切尔诺贝利事故”,认为这一事件折射出前沿AI系统正变得愈发难以控制。

在辛顿看来,继续推进先进AI之前,研究人员首先必须解决如何控制这些系统的问题。“我们不应该开发可能把人类消灭的东西。”这并非他近期首次公开示警。上周接受BBC采访时,辛顿曾表示,认为未来10年内AI导致人类灭绝的概率约为10%“并非没有道理”。

辛顿AI监管美国国会AI安全
本文由新大陆基于公开信息编辑整理
213
收录 AI 工具
23
模型产品档案
41
企业落地案例
5
完整版提示词