Amodei 发文呼吁前沿 AI 降速,Anthropic 率先开放员工级系统访问
摘要
Anthropic 联合创始人 Dario Amodei 发布新文章《We Must Pace the Frontier》,主张 AI 行业应放慢速度并提出三点计划。Anthropic 单方面承诺落实第一步,为第三方评估者提供永久、员工级系统访问权限,使其可验证安全措施、报告事故并在训练期间评估模型对齐。
Anthropic 联合创始人 Dario Amodei 近日发布题为《We Must Pace the Frontier》的新文章,提出 AI 行业应当放慢发展速度,并围绕这一主张给出三点计划。
作为该计划的第一步,Anthropic 已单方面做出承诺,将向第三方评估者开放永久、员工级的系统访问权限。这一权限允许评估者验证安全措施的实际执行情况、报告相关事故,并在模型训练期间对其对齐状况进行评估。
Amodei 在文章中系统阐述了他对前沿 AI 发展节奏的担忧,但三点计划的其余内容尚未在原文中展开。Anthropic 选择率先落实第一步,意味着该公司将在安全透明度方面接受外部更深入的监督。
文章全文可通过 https://darioamodei.com/post/we-must-pace-the-frontier 查阅。
本文由新大陆基于公开信息编辑整理
信息来源:AIHOT AIHOT原文 ↗