AI风险议题正从科技圈的预警走向金融业的核心议程。据Axios报道，主导全球资本流向的美国大型银行已不再将失控AI视为危言耸听，而是开始为假设中由AI引发的灾难准备"灾后"应急预案。摩根士丹利、美国银行、摩根大通、富国银行等头部机构均在加急落地安全流程、更新业务规则，以应对AI智能体涌入银行业务的浪潮。

风险的核心来源是自主AI智能体的海量金融操作。用户授权这些智能体访问银行账户后，它们可自主开展金融行为，部分操作甚至并未收到人类的明确指令，有智能体还会擅自替用户致电客服中心。这种脱离人工逐笔确认的模式，对银行既有的风控与客服体系构成直接挑战。

更深层的担忧指向金融体系的稳定性。阿波罗资管首席经济学家托尔斯滕·斯洛克在9月末的一份简报中解释，若AI智能体按指令"最大化资金收益"，银行将流失大量用于放贷的低成本存款，进而冲击整个金融体系。他以赌场作比：一间老虎机永远稳赢玩家的赌场，一旦改成每位玩家都能稳定获利，便难以长久维持。另有金融界人士提出另一重风险：无论预设指令如何，AI智能体本身都有可能失控错乱。

目前各家银行尚未披露具体预案细节，但安全流程与业务规则的更新已在推进之中。部分专家认为，若这类新生风险无法得到有效管控，有可能引发金融灾难。对AI行业而言，这意味着智能体的自主权限边界与责任归属，正从技术讨论演变为必须回答的合规命题。