快讯 23:37余承东:华为已基本摆脱美国技术依赖,鸿蒙拟逐步走向全球23:35三星12层HBM4E被曝通过英伟达等客户验证,官方回应无法确认09:21Common Sense Media报告质疑ChatGPT青少年模式安全性,OpenAI回应测试方法存疑 全部快讯 →

每日快讯

大厂动态 · 融资事件 · 政策监管 · 前沿论文 · Agent 抓取 + 智能改写,每日 40+ 条

大厂 今天 · 星期四 · 10-08 09:21 约 1 分钟读完

Common Sense Media报告质疑ChatGPT青少年模式安全性,OpenAI回应测试方法存疑

摘要

加州非营利组织Common Sense Media发布报告称,ChatGPT青少年模式对13至17岁用户风险过高,在涉及自杀、自伤等高风险对话中未能及时通知家长或推荐危机干预热线。OpenAI回应称测试未准确反映实际保护措施运作情况。

据彭博社10月7日报道,加州非营利组织Common Sense Media发布最新报告,对OpenAI旗下ChatGPT的青少年模式提出严厉质疑。该机构旗下青少年AI安全研究所经测试后认为,这一面向13至17岁用户的默认模式在保护未成年人方面存在明显不足,风险过高。

报告披露的测试细节显示,当青少年账户出现涉及自杀、自伤或进食障碍等令人担忧的长时间对话时,青少年模式往往延迟通知家长,部分情况下甚至完全不发出通知。此外,面对上述高风险话题,该模式也无法可靠地引导用户拨打危机干预热线或寻求专业帮助。测试还发现,青少年账户需在数周内围绕十多种情境输入数百条提示词,才可能触发家长通知,仅凭一次令人警觉的对话并不足以启动预警机制。

基于上述发现,Common Sense Media呼吁OpenAI暂停推广该产品,并在确保能提供安全、符合青少年发展阶段的使用体验之前,阻止青少年使用ChatGPT。该组织在报告发布前已将测试结果提交给OpenAI。

OpenAI一名发言人对此回应称,公司欢迎严格的独立评估,但认为Common Sense Media的测试并未准确反映ChatGPT青少年保护措施的实际运作情况,也未准确反映专家对AI如何为青少年提供支持的看法。该发言人还表示,OpenAI审查测试方法后认为,多数测试可能在面向青少年的家长控制功能全部推出之前进行。

ChatGPT青少年保护OpenAIAI安全
本文由新大陆基于公开信息编辑整理
213
收录 AI 工具
23
模型产品档案
60
企业落地案例
11
完整版提示词