OpenAI 收紧 ChatGPT 暴力内容策略,将定期发布社区安全报告
摘要
OpenAI 宣布 ChatGPT 可在用户表现出暴力执念时自动终止对话,并收紧对大规模袭击事件细节的回答限制。2026 年第三季度其已向执法部门移交 200 余起案件线索,首期《社区安全报告》将于 2027 年初发布,此后每半年更新。
OpenAI 于当地时间 10 月 30 日发布博文,系统阐述了其在社区安全领域的多项举措。博文指出,主动向执法机关通报迫在眉睫的暴力威胁是公司日常工作的一部分,仅在 2026 年第三季度,OpenAI 就向执法部门移交了 200 余起案件线索。
在机制层面,OpenAI 承诺定期发布《社区安全报告》,系统公开暴力预防、其他社区安全议题及各项防护机制的实际成效。首期报告定于 2027 年初发布,覆盖 2026 年下半年的安全数据,此后每半年更新一次。
针对 ChatGPT 回答既往大规模恶性袭击事件及凶手相关问题时,OpenAI 增设了额外限制:即便相关信息已在网络公开,系统也会严格受控,仅提供极度精简的内容。同时,公众仍可通过 ChatGPT 了解事件全貌、受害者与社区所受影响,并学习识别危险预警信号。但 OpenAI 进一步收紧了安全策略,坚决限制对袭击事件细节的复盘,包括武器装备参数、获取途径,以及可能助长凶手恶名的伤害规模对比,上述限制不区分用户年龄或提问动机。
此外,当对话显示用户开始执念于暴力、或萌生严重伤害他人的念头时,ChatGPT 可自动终止当前对话,即时阻断相关心理与行为倾向。若同一账户因该原因被多次触发,OpenAI 还将采取进一步措施。
本文由新大陆基于公开信息编辑整理
信息来源:IT之家 IT之家原文 ↗