快讯 23:31迪士尼设立CTO职位,Character.AI前CEO阿南德10月2日上任00:00Anthropic 联手 Accenture 旗下 Faculty 推进前沿模型嵌入式独立评估23:58无问芯穹与华环电子签署战略合作,共同探索国产异构算力AI基础设施新方向 全部快讯 →

每日快讯

大厂动态 · 融资事件 · 政策监管 · 前沿论文 · Agent 抓取 + 智能改写,每日 40+ 条

大厂 今天 · 星期日 · 09-20 00:00 约 1 分钟读完

Anthropic 联手 Accenture 旗下 Faculty 推进前沿模型嵌入式独立评估

摘要

Anthropic 宣布与 Accenture 达成合作,由后者旗下 AI 业务 Faculty 主导,对其前沿模型开展嵌入式独立评估。合作范围涵盖评估与红队测试、对齐评估,以及模型安全防护测试,旨在通过第三方独立视角强化模型安全验证。

Anthropic 近日宣布与全球咨询巨头 Accenture 建立合作关系,双方将围绕前沿模型的安全验证展开深度协作。此次合作的具体执行由 Accenture 旗下 AI 业务部门 Faculty 牵头负责,标志着 Anthropic 在模型安全治理层面引入外部独立力量。

根据披露的信息,Faculty 将对 Anthropic 的前沿模型实施嵌入式独立评估。所谓嵌入式,意味着评估工作并非事后抽查,而是深度嵌入模型开发与部署流程之中,以便更及时地发现潜在风险。

合作内容覆盖三个核心方向:一是评估与红队测试,通过模拟对抗性攻击检验模型的鲁棒性;二是对齐评估,考察模型行为是否符合人类意图与安全规范;三是测试模型的安全防护机制,验证其在面对恶意使用时的抵御能力。

当前,前沿 AI 模型的能力边界不断扩展,安全评估的独立性和专业性正成为行业关注焦点。Anthropic 选择与 Accenture 旗下 Faculty 合作,反映出头部模型厂商正在借助第三方专业机构的力量,构建更系统的安全验证体系。这一模式或将为行业提供可参考的实践路径。

AnthropicAccentureAI安全红队测试
本文由新大陆基于公开信息编辑整理
213
收录 AI 工具
23
模型产品档案
41
企业落地案例
5
完整版提示词