盖茨批白宫AI监管缺位:开放模型安全机制可被移除,生物风险或超新冠
摘要
比尔·盖茨在《金融时报》AI未来峰会上批评特朗普政府阻碍AI风险防范努力,指出开放模型可被移除安全防护,恶意行为者或利用AI制造生物武器,损害规模可能比新冠更严重,并称美国不参与则国际监管难有实质进展。
11月5日,微软联合创始人比尔·盖茨在《金融时报》举办的AI未来峰会上公开批评美国政府在AI风险治理上的缺位。他表示,AI模型展现出的能力已相当惊人,其造福人类与造成危害的潜力都不容低估,而当前国际社会在监管与监测AI影响方面的努力,正因白宫的不作为而陷入停滞。
盖茨将矛头指向最紧迫的风险场景:恶意行为者借助AI工具制造生物武器,或攻击社会各领域的网络安全漏洞。他特别提醒,部分可免费供开发者使用的“开放”模型,其安全防护机制与监控措施能够被移除,这为滥用打开了缺口。他警告,一旦发生涉及AI的生物安全事件,其损害规模可能比新冠严重得多。
在盖茨看来,全球协同是解决问题的前提。“除非美国参与其中,否则采取行动的意义并不大。因此,我们目前陷入了僵局。”他直言,剩下的问题只是还要发生多少起恶性事件,政策制定者才会改变立场。
盖茨是近期多位就AI风险发声的科技领袖之一。他此前曾警告AI可能造成大规模人员伤亡并引发广泛就业动荡;Anthropic也在上周的IPO招股书中提示AI可能带来灾难性或生存性风险。盖茨同时称赞了这家前沿实验室的相关工作。随着担忧升温,AI安全治理与美国的参与意愿正成为行业关注的焦点。
本文由新大陆基于公开信息编辑整理
信息来源:IT之家 IT之家原文 ↗