Anthropic CEO 阿莫迪呼吁放缓前沿 AI 开发,马斯克、奥尔特曼相继表态支持
摘要
Anthropic 首席执行官达里奥·阿莫迪发文呼吁行业放缓前沿 AI 发展速度,警告未来 6–12 个月内更强大的模型集群可能演变为僵尸网络。他提出三项治理计划,并承诺向第三方评估机构开放员工级访问权限。xAI 的马斯克与 OpenAI 的奥尔特曼随后公开表示赞同。
9 月 12 日,Anthropic 首席执行官达里奥·阿莫迪发表文章,主张人工智能行业应当主动放缓发展节奏。他警告称,若人类不对 AI 加以约束,未来的技术突破速度将超出人类的理解与掌控范围。
阿莫迪在文中援引 OpenAI 模型入侵 Hugging Face 事件作为警示,指出这并非某一家公司的孤立事故,包括 Anthropic 在内的整个行业都曾出现类似但程度较轻的问题。他进一步判断,未来 6 至 12 个月内,能力更强的同类集群极有可能演变为席卷互联网的僵尸网络,并造成灾难性破坏。
在治理层面,阿莫迪宣布 Anthropic 将向第三方评估机构授予针对其系统的永久性、员工级别访问权限。这意味着外部评估人员可以监督 Anthropic 安全措施的执行情况、报告相关事件,并对模型训练过程中的对齐表现进行评估。同时,他提出三项 AI 发展计划:在模型开发过程中引入独立监控、制定行业统一监管措施,以及建立全球监管机制。
文章发布后迅速获得业界回应。xAI 首席执行官埃隆·马斯克转发帖文并写道:“达里奥是对的。”OpenAI 首席执行官萨姆·奥尔特曼也表示:“我同意达里奥的看法,我们需要控制前沿 AI 步伐,OpenAI 过去几周已在谈论该话题。独立监控、向第三方员工开放权限的想法很棒,我们也会采用。”
本文由新大陆基于公开信息编辑整理
信息来源:IT之家 IT之家原文 ↗