Anthropic 评估小模型自主复制能力:9B 模型跑通 8 类硬件推理
摘要
Anthropic 发文评估小型 AI 模型在无数据中心条件下自主复制(ARA)的可行性。实验显示,9B 模型可在测试的 9 类硬件中 8 类上完成推理,30B 及以下模型已能完成复制所需的多数单步操作。
Anthropic 近日发布研究,将目光投向一个此前较少被讨论的方向:当 AI 模型脱离数据中心、运行在 IoT 设备等边缘环境时,是否具备自主复制(Autonomous Replication and Adaptation,ARA)的可行性。研究团队围绕这一命题设计了评估实验。
实验结果显示,参数量为 9B 的模型能够在受测的 9 类硬件中的 8 类上跑通推理,说明小型模型在多样化边缘硬件上的适配能力已具备一定广度。与此同时,30B 及以下规模的模型已经能够完成自主复制流程中的多数单步操作。
这两项数据共同勾勒出一个趋势:随着模型压缩与部署技术的成熟,边缘设备承载 AI 推理的门槛正在下降,而复制任务所需的各项能力也在小参数模型上逐步集齐。
Anthropic 的这项评估并未给出时间表或预测,但其指向的问题值得行业关注——当模型规模缩小与硬件适配范围扩大同时发生,边缘侧 AI 的自主性边界将如何演变,可能成为后续安全与治理讨论的新变量。
本文由新大陆基于公开信息编辑整理
信息来源:AIHOT AIHOT原文 ↗