快讯 09:42DeepSeek 开源 V4 推理引擎,推理成本再降 40%10:15逐际动力完成 B 轮 5 亿元融资,加速人形机器人量产10:58Kimi 企业版 API 上线,新增批量推理折扣档位 全部快讯 →

每日快讯

大厂动态 · 融资事件 · 政策监管 · 前沿论文 · Agent 抓取 + 智能改写,每日 40+ 条

大厂 今天 · 星期一 · 09-14 22:01 约 1 分钟读完

Amodei 发文呼吁前沿 AI 降速,Anthropic 率先开放员工级系统访问

摘要

Anthropic 联合创始人 Dario Amodei 发布新文章《We Must Pace the Frontier》,主张 AI 行业应放慢速度并提出三点计划。Anthropic 单方面承诺落实第一步,为第三方评估者提供永久、员工级系统访问权限,使其可验证安全措施、报告事故并在训练期间评估模型对齐。

Anthropic 联合创始人 Dario Amodei 近日发布题为《We Must Pace the Frontier》的新文章,提出 AI 行业应当放慢发展速度,并围绕这一主张给出三点计划。

作为该计划的第一步,Anthropic 已单方面做出承诺,将向第三方评估者开放永久、员工级的系统访问权限。这一权限允许评估者验证安全措施的实际执行情况、报告相关事故,并在模型训练期间对其对齐状况进行评估。

Amodei 在文章中系统阐述了他对前沿 AI 发展节奏的担忧,但三点计划的其余内容尚未在原文中展开。Anthropic 选择率先落实第一步,意味着该公司将在安全透明度方面接受外部更深入的监督。

文章全文可通过 https://darioamodei.com/post/we-must-pace-the-frontier 查阅。

AnthropicDario AmodeiAI 安全前沿 AI
本文由新大陆基于公开信息编辑整理
3,284
收录 AI 工具
186
模型产品档案
57
企业落地案例
1,247
完整版提示词