快讯 23:34Anthropic工程师解析Claude写作退化:模型被训练成写给AI而非人类23:31谷歌发布Gemini 3.8 Flash系列TTS模型,支持自然语言定制语音23:29AI安全事件与数学突破被指炒作,专家称责任在企业疏忽而非模型失控 全部快讯 →

每日快讯

大厂动态 · 融资事件 · 政策监管 · 前沿论文 · Agent 抓取 + 智能改写,每日 40+ 条

大厂 今天 · 星期四 · 09-24 21:25 约 1 分钟读完

谷歌OpenAI与Anthropic被曝筹划AI安全自律组织SAFA

摘要

据The Information报道,谷歌、OpenAI和Anthropic正推进成立前沿AI标准管理局(SAFA),计划于今年年底或明年年初启动,旨在无政府监督下建立行业自律机制,涵盖第三方测试、安全事件报告及审计资质等职能。

据The Information 9月24日晚间报道,谷歌、OpenAI与Anthropic正联合推进一项行业自律计划,拟组建名为Standards Authority for Frontier AI(前沿人工智能标准管理局,简称SAFA)的机构。三家公司在没有政府直接监督的框架下自行发起该组织,目标启动时间为今年年底或明年年初。

SAFA的职能设计涵盖多个层面。该组织计划支持第三方机构在模型正式部署前开展测试,同时为AI开发商制定安全与安保事件的报告规范。此外,SAFA拟将各实验室此前自愿作出的安全承诺转化为可执行的具体标准,并明确独立模型及实验室审计人员应具备的资质要求。

围绕测试职能的归属,工作组内部仍在讨论SAFA是否应直接承担模型的安全与能力测试。目前,此类测试由美国商务部人工智能标准与创新中心负责。部分工作组成员担忧该中心资源有限,难以对前沿模型实施充分测试。有成员主张由SAFA在现有测试基础上补充其他评估项目,但双方职能是否重叠尚无定论。

在组织筹建方面,工作组部分成员曾考虑邀请知名人士出任CEO,并拟定过科学顾问候选名单。相关商讨仍在闭门进行中。

AI安全行业自律谷歌OpenAI
本文由新大陆基于公开信息编辑整理
213
收录 AI 工具
23
模型产品档案
50
企业落地案例
6
完整版提示词