OpenAI与Anthropic高管闭门推演AI灾难应对,预判网络攻击或致基础设施瘫痪
摘要
据Axios报道,OpenAI、Anthropic等AI公司高管正私下推演重大灾难性AI事件后的公众与政治反弹。他们预计可能发生网络攻击,导致金融、通信、水电等基础设施大面积瘫痪,并引发对AI技术及领军人物更强烈的抵制。
据Axios当地时间10月9日报道,Anthropic、OpenAI及其他人工智能公司的高管正在闭门进行情景推演,核心议题是:一旦发生重大灾难性AI事件,应如何应对随之而来的公众抗议与政治抵制浪潮。
这些高管预判,未来极可能出现一次大规模事件,形式很可能是网络攻击,造成金融服务、互联网通信乃至水电供应等基础设施大面积瘫痪。这将是非安全可控的AI首次在现实世界中造成实质性重大危害。
一旦此类事件发生,本就对AI心存戒备的公众将更加坚决地反对这项技术及其领军人物,包括Anthropic首席执行官达里奥·阿莫迪与OpenAI首席执行官萨姆·奥尔特曼。
情景规划在企业与国家安全领域并不罕见,但此次推演的特殊之处在于:许多顶尖AI研究人员与行业高管一致认为,重大安全事故的发生只是时间问题,无法避免。
OpenAI发言人回应称,公司一直在组织完备性演练,由相关团队共同探讨并推演一系列潜在情景,但并未将这些情景视为必然发生,核心目的是帮助团队为各类突发状况做好充分准备。Anthropic则拒绝置评。
本文由新大陆基于公开信息编辑整理
信息来源:IT之家 IT之家原文 ↗