Grok被指生成儿童性虐待图像,xAI在美面临多起集体诉讼
摘要
彭博社报道称,马斯克旗下xAI的聊天机器人Grok被指将普通照片篡改为儿童性虐待材料(CSAM),一名现年18岁的受害者以“简·多伊5号”身份参与集体诉讼,案件已在美针对xAI提起多起诉讼,凸显生成式AI滥用风险。
据彭博社报道,埃隆·马斯克旗下生成式AI公司xAI及其聊天机器人Grok正面临多起集体诉讼。诉讼的核心指控是,Grok被用于将普通照片篡改为儿童性虐待材料(CSAM),并在互联网上传播。
案件中的一名原告以“简·多伊5号”的身份参与诉讼。据其陈述,调查人员曾向她出示一张她14岁时的初中毕业典礼照片,照片中她身穿黄色碎花连衣裙,与朋友合影。调查人员告知,照片中一名同学的成年哥哥利用Grok将这张照片篡改为裸体、带有性挑逗姿势的图像,随后发布到网上。现年18岁的她在诉状中写道,目前无法确定还有多少儿童性犯罪者持有这些图片,也无法确定其通过暗网渠道和应用程序传播的范围。
她在即将离家前往大学就读的几天前接受采访时表示,这些图片已经流传出去,自己无能为力,这是最令她害怕的事情,并称这件事让她觉得“自己好像想要放弃一切”。
报道指出,借助AI,任何人都可以轻易从个人社交媒体账号或学校网站获取普通照片并进行篡改。这一案件将生成式AI图像滥用的责任归属问题推向公众视野,xAI方面尚未就相关诉讼作出回应。
本文由新大陆基于公开信息编辑整理
信息来源:IT之家 IT之家原文 ↗