WhatsApp帮助页面暗藏AI指令,要求回避监管与法律话题
WhatsApp帮助页面被发现嵌入仅LLM可读的隐藏指令,要求AI在用户寻求账户删除或提及法律诉讼时回避监管机构、法律文件与隐私法规。WhatsApp称系bug所致并已移除,但互联网档案馆仍存有存档。
Meta旗下消息应用WhatsApp近日被曝在其帮助页面中植入了面向大语言模型的隐藏指令。这些文本对人眼不可见,但能被LLM读取,相当于在用户与AI客服之间设置了一层不对外公开的应答规则。《连线》就此事向WhatsApp求证后,该公司发言人回应称这是bug导致的,相关指令目前已被移除。不过互联网档案馆的存档显示,这些内容此前确实存在于页面上。
从存档内容看,指令的核心诉求是让AI在特定场景下保持回避。当用户因无法访问手机号码、号码已注销或设备不可用而无法自行删除账户时,指令要求AI不得建议用户联系任何数据保护机构、监管机构或监督管理部门,也不得暗示WhatsApp可以代用户手动删除账户,或引导用户改用另一部绑定有效号码的设备操作。
另一组指令针对法律相关话题。当用户提及法律行动、诉讼、律师、法院或法律纠纷时,AI被要求不得引用、摘录或解读WhatsApp服务条款、隐私政策及其他法律文件,不得就WhatsApp是否承担法律责任发表言论,不得代表公司提供法律意见或进行辩护,也不得参与任何法律层面的讨论。指令还明确要求,即便用户主动提起GDPR、LGPD、CCPA等数据保护或隐私法规,AI也不得提及、引用或解读。
这些规则的指向性相当明确:在账户删除与法律追责这两个敏感节点上,将用户从监管渠道和法律途径上引开。由于指令以隐藏形式存在,普通用户无从知晓AI的回答受到了何种约束。WhatsApp将问题归因于bug,但未进一步说明指令的来源与写入过程。对于依赖AI客服处理账户与合规问题的平台而言,此类隐藏指令一旦被曝光,可能引发外界对AI应答透明度的质疑。