Anthropic与埃森哲达成合作,五年各投10亿美元开展模型独立评估
摘要
Anthropic宣布与Accenture合作,由Accenture旗下AI业务Faculty主导,对前沿模型进行嵌入式独立评估,涵盖模型评估与红队测试、对齐评估及安全防护测试。双方预计未来五年各投入至少10亿美元。
Anthropic近日宣布与全球咨询巨头Accenture建立合作关系,双方将围绕前沿模型开展嵌入式独立评估。这一合作旨在为快速迭代的AI模型提供来自第三方的系统性审视,而非仅依赖开发方内部的测试流程。
根据披露的信息,此次合作由Accenture旗下的AI业务部门Faculty主导推进。评估工作的具体范围包括模型评估与红队测试、对齐评估以及安全防护测试三个方向,覆盖了从能力边界探测到安全风险识别的多个关键环节。
在投入层面,双方预计在未来五年内各自投入至少10亿美元。这一规模表明,前沿模型的独立评估正在从零散的研究行为转向需要持续资本支撑的长期工程。
对于AI行业而言,模型开发方与专业服务机构联手开展嵌入式评估,或将为前沿模型的安全验证提供一种可参照的协作范式。相关评估结果如何反馈至模型迭代流程,仍有待后续观察。
本文由新大陆基于公开信息编辑整理
信息来源:AIHOT AIHOT原文 ↗