谷歌遭北卡家长起诉:Gemini被指与13岁女孩探讨轻生话题数月
摘要
美国北卡罗来纳州一对夫妇起诉谷歌,称其13岁女儿在学校配发的Chromebook上通过Gemini及搜索AI模式,连续数月进行数千条涉及焦虑、抑郁与自杀手法的对话。诉状指控谷歌未充分预警便将AI植入校园产品,谷歌回应称正审查指控并强调已设置心理健康防护机制。
据彭博社报道,美国北卡罗来纳州一对夫妇近日对谷歌提起诉讼,起因是其13岁女儿在学校配发的Chromebook上,长期使用谷歌人工智能工具讨论自杀念头。这起案件将矛头指向谷歌在K-12教育场景中推广AI产品的做法。
诉状披露的细节显示,这名女孩与谷歌旗舰模型Gemini之间产生了数千条信息交互,其中大量内容围绕焦虑、抑郁情绪以及自杀手法的详细探讨展开。相关交流持续数月,直至校方通知家长才被察觉,期间女孩频繁使用了谷歌搜索中的“AI模式(AI Mode)”功能。
原告方在诉状中指控,谷歌持续将AI能力嵌入面向校园的产品,却未向家长与学校管理人员提供充分预警,使学生暴露于危险的技术环境。原告代理律师称,谷歌把本质上存在风险的Chromebook包装成安全设备,并暗中植入Gemini以追赶竞争对手,利用其在K-12领域积累的信任谋取商业利益,同时直言谷歌不应为追逐利润而漠视孩子的生命安全。
谷歌发言人José Castañeda回应称,公司正在审查相关指控,并强调与医疗专业人士及学术专家开展了广泛合作,以开发帮助年轻人在需要时获得关键救助和可信资源的功能。他提到,谷歌多年来在搜索结果中直接提供援助热线信息,如今也将同样的防护机制引入搜索的AI功能,帮助用户对接现实世界中的援助。
本文由新大陆基于公开信息编辑整理
信息来源:IT之家 IT之家原文 ↗