随着AI技术快速发展，关于AI失控可能引发毁灭性网络攻击的担忧日益加剧。一种被政策制定者寄予厚望的解决方案是设置紧急关闭开关，以便在危急时刻直接让AI下线。然而，多位AI行业领袖和研究人员对此提出质疑，认为现实情况可能远比想象中复杂。

据《商业内幕》9月17日晚间报道，被称为“AI教父”的计算机科学家杰弗里·辛顿直言，紧急关闭开关从长远来看行不通。他解释，当AI拥有超级智能后，它会比人类聪明得多，完全可能说服掌管开关的人不要按下它。从技术层面看，企业可以通过紧急关闭机制停用自行托管的模型，也可以切断AI使用工具和算力资源的权限，但这些措施未必足够。

辛顿并非唯一持怀疑态度的人。有AI行业人士认为，紧急关闭开关确实可能发挥作用，但也存在被“绕过”的可能，或者等到启动时已经太迟，因此最多只能成为完整安全体系中的一道防线。AI安全研究人员、《如果有人造出来，所有人都会死》合著者内特·索亚雷斯指出，只要AI仍受制于某个物理地点，关闭开关就能发挥作用；一旦AI突破限制、复制自身，甚至进入关键基础设施，关闭机制是否还能有效就很难保证。

索亚雷斯强调，关闭开关当下“确实存在”，但人类不应该逼近某些无法回头的临界点。真正应该优先做的，是从源头上阻止危险AI系统被开发出来。这一观点凸显了AI安全治理的复杂性，也表明单靠紧急关闭开关难以应对超级智能带来的潜在风险。