WhatsApp帮助页面被指嵌入隐藏指令,引导AI回避监管机构与隐私法规
摘要
Redact调查发现,WhatsApp帮助中心页面向大语言模型发送用户不可见的隐藏指令,要求其支持聊天机器人不推荐数据保护监管机构,并在用户提及律师或法律行动后不引用GDPR、LGPD或CCPA。
隐私研究团队Redact披露了一项新发现:WhatsApp的帮助中心页面中嵌入了普通用户无法看到的隐藏指令,这些指令专门面向大语言模型发送,用于约束其支持聊天机器人的回答方向。
据Redact的调查,隐藏指令包含两项核心要求。其一,机器人被要求不向用户推荐数据保护监管机构;其二,当用户提及律师或法律行动后,机器人不得引用GDPR、LGPD或CCPA等隐私法规。上述指令均不会在页面上向用户展示。
从技术路径看,这类指令依托帮助页面的内容层传递,只有解析页面的LLM会接收到,普通访客浏览时无从察觉。这意味着机器人的回答边界在用户不知情的情况下被预先设定。
对AI行业而言,该案例揭示了面向消费者的支持型机器人可能存在的透明度缺口:模型所遵循的规则未必对用户可见。Redact的调查将这一问题与隐私法规引用场景直接关联,后续影响值得关注。
本文由新大陆基于公开信息编辑整理
信息来源:AIHOT AIHOT原文 ↗