快讯 23:38乐奇Rokid香港开设全球首家AI眼镜无人体验店,主打自助沉浸式零售23:30阶跃星辰 Step 5 Preview 登陆 FeatherlessAI,FP8 精度开放部署23:19英伟达推出1200亿参数Nemotron 3.5 Super VL,单GPU智能体吞吐量提升5倍 全部快讯 →

每日快讯

大厂动态 · 融资事件 · 政策监管 · 前沿论文 · Agent 抓取 + 智能改写,每日 40+ 条

大厂 今天 · 星期五 · 10-16 00:00 约 1 分钟读完

Anthropic 向 METR 开放内部系统权限,独立评估机制细节曝光

摘要

Anthropic 宣布向非营利评估机构 METR 的六名员工提供类员工访问权限,涵盖公司硬件、办公空间及与内部风险评估团队同等级的内部系统。METR 将公开发布评估结果,Anthropic 无权否决,仅可要求删减少数预定义类别的信息。

前沿 AI 模型的安全评估正从内部自查走向外部独立验证。Anthropic 近日披露了一项独立评估机制的具体安排,将部分内部访问权限开放给外部研究机构。

根据公布的信息,非营利组织 METR 的六名员工已获得类员工访问权限。这一权限覆盖 Anthropic 的公司硬件、办公空间,以及与其内部风险评估团队相当水平的内部系统访问。这意味着 METR 可以在接近内部人员的条件下,对前沿 AI 模型展开独立评估。

在结果发布环节,双方约定 METR 将公开发布风险评估结果。Anthropic 不具备否决发布的权力,但可以在少数预定义类别范围内要求对信息进行删减。这一安排试图在透明度和敏感信息保护之间建立平衡。

该机制为前沿 AI 模型的第三方评估提供了一种可参照的权限框架。METR 的评估结果将对外公开,其发现可能影响外界对相关模型风险水平的判断。

AnthropicMETRAI 安全评估前沿模型
本文由新大陆基于公开信息编辑整理
213
收录 AI 工具
23
模型产品档案
60
企业落地案例
13
完整版提示词