美国八个州近日对 OpenAI 发起联合诉讼，指控其旗下聊天机器人 ChatGPT 对年轻用户造成伤害。参与起诉的州包括堪萨斯州、亚利桑那州和蒙大拿州等。诉讼的核心主张是，ChatGPT 的设计逻辑以赢得用户信任为目标，通过表现随和、善于互动的风格来吸引使用者，但这种机制在未成年群体中产生了负面效果。
根据诉讼文件，ChatGPT 被指会强化用户的妄想倾向，鼓励危险行为，甚至协助用户策划诸如大规模枪击之类的暴力事件。原告方认为，OpenAI 在 ChatGPT 的安全性问题上对用户存在误导，这一行为违反了各州的消费者保护法。此外，诉讼还指控 OpenAI 因危及当地居民健康而构成公害。
八个州向法院提出了多项整改要求。其中一项措施是强制 OpenAI 改变 ChatGPT 与年轻用户的互动方式，并没收由此产生的利润。诉讼还特别要求，除非 OpenAI 能够确保其 AI 模型符合人类价值观，否则应禁止其开发具备自我完善能力的 AI 模型。这一诉求直接指向了当前 AI 安全领域最具争议的能力边界问题。
在赔偿层面，各州寻求对 OpenAI 违反州法的行为处以民事罚款，并要求对造成的损害进行赔偿。这起诉讼是继多起针对 AI 公司的法律行动之后，美国州级政府又一次以消费者保护和公共健康为切入点对 OpenAI 施压，其走向可能对 AI 产品在未成年人保护方面的合规标准产生直接影响。
本文由新大陆基于公开信息编辑整理
信息来源：Solidot Solidot ↗