英国AISI实测:ESM-2数据过滤削弱目标能力,约80美元算力可恢复
摘要
英国AI安全研究院Chem-Bio团队从零预训练8M至3B参数的ESM-2蛋白质语言模型,测试预训练数据过滤对专业科学模型的效果。结果显示,过滤可削弱目标能力,但约80美元算力即可恢复。
围绕预训练数据过滤能否真正约束专业科学模型的能力边界,英国AI安全研究院(AI Security Institute)下属Chem-Bio团队开展了一项针对性实验,选择蛋白质语言模型ESM-2作为测试对象。
研究团队从零开始预训练了参数规模覆盖8M到3B的ESM-2系列模型,并在这一过程中考察预训练数据过滤对模型专业能力的影响。这一设置使实验能够同时观察不同规模模型在过滤条件下的表现差异。
实验得出的核心结论是:数据过滤确实能够削弱模型的目标能力,但这种削弱并非不可逆——约80美元的算力投入即可将相关能力恢复。该结果对以数据过滤作为能力管控手段的思路提出了现实层面的参考。
从影响看,这项实测为专业科学模型的能力治理提供了量化视角:过滤措施的有效性需要结合恢复成本来评估,而较低算力门槛下的能力回升,意味着单纯依赖预训练数据过滤可能难以构成稳固的防线。
本文由新大陆基于公开信息编辑整理
信息来源:AIHOT AIHOT原文 ↗