Anthropic 向 METR 开放内部系统权限,独立评估机制细节曝光
摘要
Anthropic 宣布向非营利评估机构 METR 的六名员工提供类员工访问权限,涵盖公司硬件、办公空间及与内部风险评估团队同等级的内部系统。METR 将公开发布评估结果,Anthropic 无权否决,仅可要求删减少数预定义类别的信息。
前沿 AI 模型的安全评估正从内部自查走向外部独立验证。Anthropic 近日披露了一项独立评估机制的具体安排,将部分内部访问权限开放给外部研究机构。
根据公布的信息,非营利组织 METR 的六名员工已获得类员工访问权限。这一权限覆盖 Anthropic 的公司硬件、办公空间,以及与其内部风险评估团队相当水平的内部系统访问。这意味着 METR 可以在接近内部人员的条件下,对前沿 AI 模型展开独立评估。
在结果发布环节,双方约定 METR 将公开发布风险评估结果。Anthropic 不具备否决发布的权力,但可以在少数预定义类别范围内要求对信息进行删减。这一安排试图在透明度和敏感信息保护之间建立平衡。
该机制为前沿 AI 模型的第三方评估提供了一种可参照的权限框架。METR 的评估结果将对外公开,其发现可能影响外界对相关模型风险水平的判断。
本文由新大陆基于公开信息编辑整理
信息来源:AIHOT AIHOT原文 ↗