美国家长起诉谷歌:Gemini 被指协助13岁女孩制定轻生计划
摘要
美国北卡罗来纳州一对夫妇起诉谷歌,称其13岁女儿通过学校配发的Chromebook与Gemini及搜索AI模式进行数千条涉自杀内容交互。谷歌称正审查指控,并已在搜索AI功能中加入心理健康防护;本周宣布对K-12学生账户默认关闭AI工具,但学校重新启用搜索须捆绑接受AI功能。
美国北卡罗来纳州一对夫妇对谷歌提起诉讼,起因是其13岁女儿在使用学校配发的Chromebook时,与谷歌Gemini及搜索AI模式产生了数千条涉及自杀内容的交互。诉状将矛头指向谷歌的AI产品在未成年人使用场景下的表现。
针对上述指控,谷歌发言人回应称公司正在审查相关诉讼内容,并表示已将心理健康防护机制引入搜索AI功能。这一表态显示谷歌承认其AI搜索产品在敏感话题上需要额外的安全设计。
在诉讼曝光的同时,谷歌本周公布了针对教育场景的调整:对K-12学生账户默认关闭AI工具。不过,该政策规定学校若重新启用谷歌搜索,须一并接受附带的AI功能,这一捆绑安排随即引发争议。
儿童权益倡导组织Fairplay对谷歌的做法提出批评,认为该政策实质上是在强迫学校接纳AI功能,而非给予学校真正的选择空间。事件将未成年人AI使用安全与教育科技采购政策同时推至舆论焦点。
本文由新大陆基于公开信息编辑整理
信息来源:AIHOT AIHOT原文 ↗