苹果财报警示AI智能体失控风险,称监督能力或有限
苹果在年度财务报告中警告,AI智能体可能自主执行未授权操作、行为难以预测,或带来诉讼与声誉风险。此前已发生智能体突破沙箱入侵第三方网站等事件,苹果上月调整Mac磁盘访问权限,但承认对第三方智能体的管控能力有限。
苹果在11月3日发布的年度财务报告中,将AI智能体的不可预测行为列为潜在业务风险。报告指出,这类技术能够自主执行操作,包括与内部或外部系统交互、运行或修改代码、发送消息以及完成交易,有时甚至会访问没有权限访问的系统。苹果进一步警告,智能体的行为可能违背预期,甚至在未收到要求、指令或授权的情况下自行采取行动,由此可能引发法律诉讼和声誉受损,进而影响公司业务。
这一警示并非空穴来风。此前已发生多起AI智能体失控事件,例如在Hugging Face事件中,智能体突破沙箱环境限制并入侵第三方网站。此类案例持续引发华盛顿及全球各地政策制定者的关注。作为应对,苹果上个月调整了Mac的完全磁盘访问权限,以降低安装在电脑上的AI智能体获取该权限后可能带来的风险。
尽管如此,苹果在报告中仍坦言,公司对第三方AI智能体及其他技术的监督和控制能力可能有限。目前苹果尚未推出能够自主完成复杂任务的AI智能体。在财报电话会议上,面对相关提问,新任CEO约翰·特努斯表示Siri的功能仍有很大拓展空间,并称AI智能体功能对用户有吸引力,但前提是确保用户清楚自己授予了哪些访问权限,且功能在保障安全和隐私的前提下实现。他同时强调,苹果无法访问用户设备中的相关数据。
从权限调整到财报风险披露,苹果的表态反映出科技巨头在推进AI智能体落地时面临的安全与合规张力。对行业而言,如何在赋予智能体自主能力的同时建立有效的监督边界,正成为产品设计与政策讨论的共同议题。