美议员推《人类控制AI法案》：递归式自我改进须经政府批准

当地时间9月28日，美国CNBC报道称，代表硅谷选区的民主党联邦众议员罗·康纳正准备提出一项AI监管法案，名为《Human Control Over AI Act（人类控制AI法案）》。该法案引入严格责任标准，核心条款是禁止AI在缺乏政府安全防护机制的情况下进行递归式自我改进。康纳在采访中表示，存在文明灭绝的风险，既有失去控制的安全风险，也有被滥用的风险，两者都必须认真对待。

根据法案设计，在联邦政府建立防护规则且监管机构批准有关活动之前，AI模型不得递归式自我改进，也不得自主修改自身的核心目标、遏制机制或关停控制。法案计划设立一个新的联邦机构，负责制定AI安全监管规定，通过许可制度审批模型训练和部署，对前沿AI模型开展审计，并制定安全标准，确保模型持续接受测试并处于有效的人类控制之下。

在具体执行层面，每家前沿AI实验室必须配备独立审计人员，由审计人员直接向新机构报告。新机构还将制定多项标准，涵盖沙盒测试环境、让测试环境与互联网断开的物理隔离、紧急关闭开关，以及防止模型脱离实验室环境后在互联网上自行运行的控制措施。此外，前沿AI实验室使用的先进芯片也将纳入监管，包括建立监测或控制芯片使用的机制。

法案还针对AI引发严重后果的情形增设法律处罚。部署AI模型如果导致平民群体遭到毁灭，将被列为“危害人类罪”并追究刑事责任。这一条款将AI安全问题的法律后果提升至国际刑法层面的高度，反映出立法者对前沿AI失控风险的严肃态度。