安全研究曝GEO污染攻击:374家企业被植入AI虚假信息
摘要
安全研究者披露一起针对ChatGPT、Gemini和Google AI Overview的规模化GEO污染攻击,涉及374家企业,包括Delta、Lufthansa、Bank of America、Airbnb等。攻击导致AI向用户输出诈骗电话和钓鱼链接,构成新型AI虚假信息威胁。
安全研究者近日发现一起针对主流AI助手的规模化虚假信息攻击。攻击者利用GEO(生成引擎优化)手段,对ChatGPT、Gemini和Google AI Overview三大平台实施污染,使AI在回答用户查询时输出被篡改的信息。
此次攻击的影响范围已明确:共检测到374家被攻击企业,涵盖航空、金融、酒店等多个行业,其中Delta、Lufthansa、Bank of America、Airbnb等知名品牌均在列。这些企业的相关信息被恶意替换,AI会向用户给出诈骗电话和钓鱼链接。
从技术路径看,GEO污染的核心在于操纵AI模型的信息来源或检索结果,使模型在生成回答时优先采纳攻击者植入的内容。与传统的搜索引擎优化不同,GEO直接作用于生成式AI的输出环节,用户往往难以察觉回答已被污染。
对AI行业而言,这一事件揭示了生成式AI在信息可信度层面的系统性风险。当AI助手成为用户获取企业联系方式和关键信息的重要入口时,GEO污染可能直接导致财产损失和隐私泄露。目前,相关平台尚未披露具体的修复进展。
本文由新大陆基于公开信息编辑整理
信息来源:AIHOT AIHOT原文 ↗