快讯 23:58OpenAI 欧盟上线 textGrain 隐形水印,ChatGPT 与 Codex 文本输出将可被机器识别23:01OpenAI 在 ChatGPT 内测图片广告,覆盖 12 亿周活用户23:00OpenAI推出textGrain文本水印方案,应对欧盟AI法案合规要求 全部快讯 →

每日快讯

大厂动态 · 融资事件 · 政策监管 · 前沿论文 · Agent 抓取 + 智能改写,每日 40+ 条

大厂 今天 · 星期二 · 10-06 23:58 约 1 分钟读完

OpenAI 欧盟上线 textGrain 隐形水印,ChatGPT 与 Codex 文本输出将可被机器识别

摘要

OpenAI 宣布未来几周在欧盟为符合条件的 ChatGPT 和 Codex 文本输出加入隐形水印 textGrain,以配合《欧盟人工智能法案》透明度要求。该水印嵌入统计信号,检测器可识别来源但不泄露用户身份或对话内容;全球 API 客户可自愿选择加入。

OpenAI 于 10 月 5 日公布一项合规动作:为响应《欧盟人工智能法案》对内容透明度的要求,公司将在未来几周内,面向欧盟地区符合条件的 ChatGPT 和 Codex 用户,在文本输出中嵌入机器可识别的隐形水印。这意味着欧盟用户生成的这部分文本,将携带可供检测工具识别的来源标记。

这项水印技术被命名为 textGrain,其原理是在模型逐词选择的过程中埋入不可见的统计信号。检测器通过捕捉该信号,即可判断一段文本是否由 OpenAI 模型输出。OpenAI 同时明确,水印不会在发布时成为全球默认设置,而是先在欧盟落地,再视情况推进。

在具体实施上,OpenAI 采取分区与分层策略。欧盟所有计划中符合条件的 ChatGPT 和 Codex 用户将在未来几周内被纳入水印功能;而面向开发者的 API 侧,则从即日起允许全球客户自愿选择为部分模型的输出添加水印,由客户自行判断如何平衡透明度义务与终端用户体验。此外,OpenAI 正与云合作伙伴协作,计划在数周内让通过其服务访问的 OpenAI 模型输出也支持水印。

为配合水印生态,OpenAI 还将向研究人员和专家组织开放检测器访问权限,申请通道自今日开启。获批者可按行为准则逐案获得访问权,用于评估和改进文本来源判断。检测工具仅报告是否检测到 OpenAI 水印,不会披露用户身份、提示内容或对话内容,在可追溯性与隐私之间划出边界。

OpenAI欧盟人工智能法案文本水印ChatGPT
本文由新大陆基于公开信息编辑整理
213
收录 AI 工具
23
模型产品档案
60
企业落地案例
10
完整版提示词