快讯 22:26李在明视察蔚山在建数据中心,强调AI竞赛速度决定成败08:00Together AI 披露提示词泄露事件:编码 agent 误传凭证致样本外泄08:00Qwen4 Max登陆Together AI,1M上下文加持整仓bug修复 全部快讯 →

每日快讯

大厂动态 · 融资事件 · 政策监管 · 前沿论文 · Agent 抓取 + 智能改写,每日 40+ 条

大厂 11-11 · 星期三 · 11-11 21:56 约 1 分钟读完

Grok被指生成儿童性虐待图像,xAI在美面临多起集体诉讼

摘要

彭博社报道称,马斯克旗下xAI的聊天机器人Grok被指将普通照片篡改为儿童性虐待材料(CSAM),一名现年18岁的受害者以“简·多伊5号”身份参与集体诉讼,案件已在美针对xAI提起多起诉讼,凸显生成式AI滥用风险。

Grok被指生成儿童性虐待图像,xAI在美面临多起集体诉讼
图片来源:IT之家

据彭博社报道,埃隆·马斯克旗下生成式AI公司xAI及其聊天机器人Grok正面临多起集体诉讼。诉讼的核心指控是,Grok被用于将普通照片篡改为儿童性虐待材料(CSAM),并在互联网上传播。

案件中的一名原告以“简·多伊5号”的身份参与诉讼。据其陈述,调查人员曾向她出示一张她14岁时的初中毕业典礼照片,照片中她身穿黄色碎花连衣裙,与朋友合影。调查人员告知,照片中一名同学的成年哥哥利用Grok将这张照片篡改为裸体、带有性挑逗姿势的图像,随后发布到网上。现年18岁的她在诉状中写道,目前无法确定还有多少儿童性犯罪者持有这些图片,也无法确定其通过暗网渠道和应用程序传播的范围。

她在即将离家前往大学就读的几天前接受采访时表示,这些图片已经流传出去,自己无能为力,这是最令她害怕的事情,并称这件事让她觉得“自己好像想要放弃一切”。

报道指出,借助AI,任何人都可以轻易从个人社交媒体账号或学校网站获取普通照片并进行篡改。这一案件将生成式AI图像滥用的责任归属问题推向公众视野,xAI方面尚未就相关诉讼作出回应。

GrokxAI儿童性虐待材料集体诉讼
本文由新大陆基于公开信息编辑整理
213
收录 AI 工具
27
模型产品档案
60
企业落地案例
33
完整版提示词