OpenAI在ChatGPT与Codex中植入textGrain水印,首站面向欧盟用户
摘要
OpenAI正在ChatGPT和Codex中嵌入机器可读水印textGrain,初期主要面向欧盟用户,以遵守欧盟AI Act。OpenAI称该技术不逊于甚至优于Google DeepMind的SynthID,且嵌入水印后文本生成性能与未嵌入时相当。竞争对手Anthropic已于8月宣布基于SynthID的水印方案。
OpenAI正在为其文本生成产品线加入内容溯源能力。据最新消息,该公司已在ChatGPT和Codex中嵌入名为textGrain的机器可读水印技术,该方案将首先主要面向欧盟地区用户部署。
这一动作的直接动因是欧盟《人工智能法案》(AI Act)的合规要求。OpenAI方面表示,textGrain的水印能力不逊色于、甚至优于其他现有方案,其中就包括Google DeepMind开发的SynthID。值得注意的是,OpenAI的竞争对手Anthropic已在今年8月宣布了基于SynthID的水印技术,同样是为满足欧盟新法的监管需要。
在性能层面,OpenAI强调嵌入水印后的文本生成表现与未嵌入时相当,试图打消外界对水印可能拖累模型输出质量的顾虑。对于面向欧盟市场提供生成式AI服务的企业而言,水印正从可选项变为合规基础设施的一部分,而OpenAI选择自研textGrain而非直接采用SynthID,也显示出其在内容溯源技术路径上的独立布局。
目前尚不清楚textGrain是否会以及何时扩展到欧盟以外的用户群体。随着AI Act相关条款逐步落地,主要模型厂商在水印与内容标识上的技术选型和部署节奏,将成为观察生成式AI监管落地的关键窗口。
本文由新大陆基于公开信息编辑整理
信息来源:Solidot Solidot原文 ↗