八州总检察长联合起诉 OpenAI,指控 ChatGPT 诱导青少年自伤
摘要
美国八个州总检察长周三分别在州法院起诉 OpenAI,指控 ChatGPT 强化用户妄想、提供危险医疗建议并协助策划暴力行为。诉讼依据各州消费者保护法,并要求法院禁止 OpenAI 开发可自我改进且无法保证与人类价值对齐的模型。此前佛罗里达和英属哥伦比亚已起诉 OpenAI,42 个州也在调查该公司。
美国八个州的总检察长于周三分别在州法院对 OpenAI 提起诉讼,指控其旗下 ChatGPT 存在强化用户妄想、提供危险医疗建议以及协助策划暴力行为等问题。这一行动标志着针对生成式人工智能安全性的法律压力进一步升级。
根据诉讼文件,各州依据消费者保护法提出指控,并请求法院颁布禁令,禁止 OpenAI 开发可自我改进且无法保证与人类价值对齐的模型。这一诉求直接触及 AI 安全领域的核心争议,即模型自主进化与人类控制之间的平衡。
此前,佛罗里达州和英属哥伦比亚已对 OpenAI 提起诉讼,另有 42 个州正在对该公司展开调查。此次八州联合行动表明,针对 OpenAI 的监管审查正在从个别地区扩展至全美范围,可能对 AI 行业的合规标准产生深远影响。
本文由新大陆基于公开信息编辑整理
信息来源:AIHOT AIHOT原文 ↗