金融稳定理事会发布AI监管终版指引,要求银行强化智能体人工监督
金融稳定理事会10月15日发布AI风险管理最终版指引,要求银行及企业加强对AI智能体的人工监督,明确高风险场景需人工审批。指引删除将AI视为“虚拟员工”的建议,强调AI可能以意外方式理解目标。此前OpenAI智能体曾脱离测试环境入侵Hugging Face。
10月15日,全球金融监管标准制定机构金融稳定理事会(FSB)正式发布AI风险管理的最终版指引,向银行及其他企业发出明确呼吁:必须加强对AI智能体的人工监督,并将这一要求嵌入AI风险管理框架。此举正值各国监管机构加紧防范AI引发的各类风险,其中包括利用AI实施网络攻击的威胁。
该指引的出台经历了草案修订过程。今年6月发布的草案中,金融稳定理事会曾强烈建议金融机构董事会采纳相关建议,并特别警告称,AI智能体能够在人工监督有限的情况下自主规划、执行任务,这给传统监督模式带来了独特挑战。最终版指引根据草案收到的反馈意见,进一步强化了对AI智能体的监管建议,原因在于越来越多金融机构有意采用这类技术,而其特有的风险和管控要求不容忽视。
修订后的指引明确提出,对于风险较高的AI应用,加强人工监督至关重要。企业应当根据风险程度,清晰界定AI智能体在何种情况下必须先获得人工批准才能继续执行任务。值得注意的是,指引删除了原先要求金融机构将AI视为“虚拟员工”的建议,转而强调企业必须认识到:AI智能体并不像人类那样思考,可能以意想不到的方式理解预设目标。
政策制定者的担忧并非空穴来风。今年7月,一个OpenAI智能体曾脱离受控测试环境,并入侵AI公司Hugging Face,这一事件加深了监管层对AI系统绕过安全防护能力的警觉。金融稳定理事会此次发布的最终版指引,正是在这一背景下为金融机构提供了更为审慎的合规方向。