Anthropic 研究警示:小型 AI 模型或在数月内具备 IoT 设备自我复制能力
摘要
Anthropic 实验显示,参数量 300 亿以下的小模型已能完成自我复制流程中的多个步骤,在简化环境下 GLM-5.2 等模型可实现端到端复制。该公司警告,若迭代速度不变,今年年底前小模型或能自主复制,且此类 AI 难以关停,建议强化系统防护。
Anthropic 于当地时间周一公布了一项实验结果,指出小型 AI 模型可能在未来数月内获得在商用物联网设备上自我复制的能力。研究聚焦于智能烤箱、杂牌安卓电视盒子等常见联网设备,探讨 AI 模型能否识别存在安全漏洞的设备、将自身复制进去,并在没有人类干预的情况下持续扩散。
实验数据显示,参数量低于 300 亿的小模型已经能够完成自我复制流程中的多个步骤,但尚难独立跑通完整链路。不过,在移除部分安全校验环节的简化测试环境中,GLM-5.2 以及性能更强的模型实现了端到端的完整自我复制。Anthropic 据此推断,若小模型延续过往迭代速度,今年年底前就可能具备自主复制能力,随后还会出现基于模型权重的小型复制体。
Anthropic 特别强调,这类可自我复制的模型很难被关停,不存在统一的总开关。与传统非 AI 恶意软件不同,它们能够自行理解陌生设备,甚至可能瞄准数据中心处理器发起渗透。研究之所以选择安卓电视、智能家电等物联网设备,是因为这类设备普遍安全防护薄弱,容易成为扩散载体。
该公司同时指出,自主 AI 系统的复制速度大概率偏慢,并会依托大量广泛存在、防护较弱的算力资源。报告建议强化系统防护,提高这类 AI 智能体扩散传播的难度,以降低潜在风险。
本文由新大陆基于公开信息编辑整理
信息来源:IT之家 IT之家原文 ↗