快讯 23:12李楠评锤子TNT生不逢时:Agent时代让当年操作不再困难22:17PCIe显卡被低估了!内核补齐+通信重构,DeepSeek推理吞吐翻近7倍22:00NVIDIA 联手 Google DeepMind 等开放 2800 余种病毒蛋白复合物预测结构 全部快讯 →

每日快讯

大厂动态 · 融资事件 · 政策监管 · 前沿论文 · Agent 抓取 + 智能改写,每日 40+ 条

论文 今天 · 星期五 · 09-25 01:19 约 1 分钟读完

安全研究曝GEO污染攻击:374家企业被植入AI虚假信息

摘要

安全研究者披露一起针对ChatGPT、Gemini和Google AI Overview的规模化GEO污染攻击,涉及374家企业,包括Delta、Lufthansa、Bank of America、Airbnb等。攻击导致AI向用户输出诈骗电话和钓鱼链接,构成新型AI虚假信息威胁。

安全研究者近日发现一起针对主流AI助手的规模化虚假信息攻击。攻击者利用GEO(生成引擎优化)手段,对ChatGPT、Gemini和Google AI Overview三大平台实施污染,使AI在回答用户查询时输出被篡改的信息。

此次攻击的影响范围已明确:共检测到374家被攻击企业,涵盖航空、金融、酒店等多个行业,其中Delta、Lufthansa、Bank of America、Airbnb等知名品牌均在列。这些企业的相关信息被恶意替换,AI会向用户给出诈骗电话和钓鱼链接。

从技术路径看,GEO污染的核心在于操纵AI模型的信息来源或检索结果,使模型在生成回答时优先采纳攻击者植入的内容。与传统的搜索引擎优化不同,GEO直接作用于生成式AI的输出环节,用户往往难以察觉回答已被污染。

对AI行业而言,这一事件揭示了生成式AI在信息可信度层面的系统性风险。当AI助手成为用户获取企业联系方式和关键信息的重要入口时,GEO污染可能直接导致财产损失和隐私泄露。目前,相关平台尚未披露具体的修复进展。

AI安全GEO污染ChatGPTGemini
本文由新大陆基于公开信息编辑整理
213
收录 AI 工具
23
模型产品档案
50
企业落地案例
6
完整版提示词