谷歌OpenAI与Anthropic被曝筹划AI安全自律组织SAFA
摘要
据The Information报道,谷歌、OpenAI和Anthropic正推进成立前沿AI标准管理局(SAFA),计划于今年年底或明年年初启动,旨在无政府监督下建立行业自律机制,涵盖第三方测试、安全事件报告及审计资质等职能。
据The Information 9月24日晚间报道,谷歌、OpenAI与Anthropic正联合推进一项行业自律计划,拟组建名为Standards Authority for Frontier AI(前沿人工智能标准管理局,简称SAFA)的机构。三家公司在没有政府直接监督的框架下自行发起该组织,目标启动时间为今年年底或明年年初。
SAFA的职能设计涵盖多个层面。该组织计划支持第三方机构在模型正式部署前开展测试,同时为AI开发商制定安全与安保事件的报告规范。此外,SAFA拟将各实验室此前自愿作出的安全承诺转化为可执行的具体标准,并明确独立模型及实验室审计人员应具备的资质要求。
围绕测试职能的归属,工作组内部仍在讨论SAFA是否应直接承担模型的安全与能力测试。目前,此类测试由美国商务部人工智能标准与创新中心负责。部分工作组成员担忧该中心资源有限,难以对前沿模型实施充分测试。有成员主张由SAFA在现有测试基础上补充其他评估项目,但双方职能是否重叠尚无定论。
在组织筹建方面,工作组部分成员曾考虑邀请知名人士出任CEO,并拟定过科学顾问候选名单。相关商讨仍在闭门进行中。
本文由新大陆基于公开信息编辑整理
信息来源:IT之家 IT之家原文 ↗