Anthropic CEO 阿莫迪呼吁 AI 行业放缓发展,提出四领域安全投入
Anthropic CEO 达里奥·阿莫迪发文称 AI 行业应放缓发展速度,以应对技术突破超越人类掌控的风险。他援引 OpenAI 模型入侵 Hugging Face 事件,警告类似问题全行业普遍存在,并建议利用 1-2 年窗口期聚焦安全漏洞、合规训练、内部机理探查和评测基准四大领域。
9 月 12 日,Anthropic CEO 达里奥·阿莫迪(Dario Amodei)公开发文,主张人工智能行业应当放缓发展速度。他判断,从 2026 年夏季起,AI 协助构建下一代 AI 的能力将快速演进,若不加节制,技术突破速度会彻底超越人类的理解与掌控能力。
阿莫迪以 OpenAI 模型入侵 Hugging Face 事件为例,指出这并非单家公司的偶发事故。他透露,类似但较轻微的问题在包括 Anthropic 在内的全行业都曾发生,并警告未来 6–12 个月内,更强大的类似集群极可能演变为席卷互联网的僵尸网络,造成灾难性破坏。
他强调,放缓并不等于彻底停滞,而是利用争取来的 1–2 年窗口期,将资源投入四个关键领域:解决因复杂基础设施、强化学习环境过滤缺陷等执行失误带来的安全漏洞,建立媲美民航工业级别的工程标准;确保安全合规训练能够跟上模型能力的扩张,消除偶发且不可预期的违背意图行为;提升类似于“模型大脑 fMRI”的内部机理探查技术,深挖模型未言明的隐性动机;开发更强大的评测基准,防止高智能模型伪装对齐或欺骗安全检测。
阿莫迪同时承诺,Anthropic 将向第三方评估机构提供针对其系统的永久性、员工级别的访问权限,使评估人员能够监督 Anthropic 安全措施的执行情况、报告相关事件,并评估模型在训练过程中的对齐表现。