美国参议院正在就一项人工智能监管法案进行谈判。据路透社9月15日报道，一名参议院助理和一名熟悉磋商情况的游说人士透露，谈判各方讨论的核心内容之一，是要求AI企业证明自身已采取合理预防措施，防止旗下工具造成伤害。

根据知情人士的说法，议员们考虑赋予美国商务部长一项新权力：要求AI开发者拿出证据，证明其履行了“注意义务”，也就是采取了合理措施防止伤害。此外，商务部长还可派遣政府审计人员直接测试企业产品。这一安排意味着，AI企业在合规层面可能面临更直接的政府审查。

法案讨论的背景之一，是外界对AI潜在危险的担忧近期明显加剧。上周，Anthropic研究员雅各布·考克森宣布辞职，他提到部分原因是：“开发AI的人真心相信，这项技术可能在本世纪20年代结束前杀死我们所有人。”此后，几家AI巨头的负责人呼吁放缓技术发展，全球AI概念股在当地时间14日纷纷下跌。

值得注意的是，谈判各方还在考虑让联邦法院参与处理另一种情形：当美国政府认为某些AI模型不安全、希望阻止其发布时，企业可以向联邦法院提出异议，挑战政府的决定。另一名游说人士和一名参议院助理透露，涉及联邦法院的条款还拟禁止各州执行本州法律中针对AI模型某些风险的规定。

不过，该法案目前仍处于磋商阶段。即便国会通过，成为法律的希望也不大。美国政府究竟能获得多大权力、具体如何安排，仍有待各方继续讨论。