METR独立审查Anthropic风险报告:认可低风险结论但质疑评估方法
摘要
METR发布对Anthropic 2026年8月风险报告“高风险场景中的错位”章节的独立外部审查,基本同意截至2026年7月15日Mythos 5和内部模型Model 2的灾难性错位风险为低,但认为该结论主要源于模型能力有限,而非安全防护措施有效。
METR对Anthropic于2026年8月发布的风险报告进行了独立外部审查,审查对象为该报告中“高风险场景中的错位”章节。这一审查旨在从第三方视角评估Anthropic对自身模型风险的判断是否成立。
审查结论显示,METR基本认同Anthropic的核心判断:截至2026年7月15日,Mythos 5与内部模型Model 2的灾难性错位风险处于低水平。双方在风险等级的结论上并无明显分歧。
不过,METR对支撑这一结论的评估方法提出了保留意见。该机构指出,低风险结果主要应归因于模型自身能力仍然有限,而非Anthropic所部署的安全防护措施发挥了决定性作用。这一判断意味着,风险结论的稳定性可能更多依赖能力边界,而非防护体系的有效性。
对AI行业从业者而言,此次审查揭示了一个值得关注的评估分歧:当低风险结论建立在能力不足之上时,随着模型能力提升,风险状况可能发生变化。METR的独立审查也为外部机构如何审视厂商自评报告提供了一个参考样本。
Anthropic的报告与METR的审查共同构成了一次围绕模型风险评估方法论的公开讨论,其后续影响仍有待观察。
本文由新大陆基于公开信息编辑整理
信息来源:AIHOT AIHOT原文 ↗