快讯 23:54PS2初代安全芯片MechaCon被破解,爱好者耗时四年攻克26年谜题23:47古特雷斯呼吁全球协作管控AI风险,联大高级别周将成关键节点23:07华邦电子11.2亿美元接手英飞凌NOR与F-RAM业务,飞索半导体品牌将重启 全部快讯 →

每日快讯

大厂动态 · 融资事件 · 政策监管 · 前沿论文 · Agent 抓取 + 智能改写,每日 40+ 条

政策 今天 · 星期四 · 09-17 07:30 约 2 分钟读完

Anthropic CEO 提议嵌入式监管,专家指评估员缺乏强制权

摘要

Anthropic CEO Dario Amodei 提议将独立第三方安全评估员嵌入前沿 AI 公司,赋予其接近内部风险团队的访问权限。但银行业监管专家指出,该方案缺乏银行监管者拥有的强制执行权,评估员无法阻止模型训练或发布。

9 月 17 日,据 CNBC 报道,Anthropic CEO Dario Amodei 提出一项针对前沿 AI 公司的监管设想:将独立第三方安全评估员长期嵌入企业内部,给予其接近内部风险团队的访问权限,并允许其在有限删减的前提下自主发布调查结果。Amodei 明确援引银行业嵌入式监管作为先例,称该提议在银行业有迹可循——监管“监督员”有时会与员工一起嵌入工作。

然而,多位银行业监管专家和 AI 评估从业者对此提出质疑。怀俄明大学法学院院长、银行业监管专家 Julie Andersen Hill 指出,银行监管者拥有切实的行政强制权。在大型银行,政府检查员常驻机构内部,可访问内部系统和员工,并能指令银行停止某项业务、限制增长、强制管理层变动,极端情况下可关闭银行。相比之下,Amodei 提议的评估员只拥有访问权和发布权,无法阻止模型的训练或发布,两者的实际权力不可同日而语。

这一提议的背景是,Anthropic 前研究员 Jacob Coxon 此前辞职并警告,前沿实验室正竞相追逐可能失控的系统。Amodei 在上周末发表的长文中承诺,Anthropic 将向第三方评估员提供与内部风险团队相当的系统访问权。他还警告,未来 6 到 12 个月内,一个错位的智能体群可能抢占互联网的大部分,并造成数千亿美元损失。

该文已引发 AI 社区及政府内部的监管分歧,包括美国总统特朗普在内。批评者的核心论点在于:评估员若没有叫停模型训练或发布的权力,就无法真正发挥监管作用——你不能既当运动员又当裁判。

AnthropicAI 监管Dario Amodei
本文由新大陆基于公开信息编辑整理
213
收录 AI 工具
23
模型产品档案
41
企业落地案例
5
完整版提示词