OpenAI推出textGrain文本水印方案,应对欧盟AI法案合规要求
摘要
OpenAI公布名为textGrain的文本水印技术,通过在模型词选择中嵌入不可见统计信号实现文本溯源。API客户即日起可对部分模型选择性开启水印,未来数周将在欧盟地区为ChatGPT和Codex输出添加隐形水印,检测器暂仅向获批研究者和专家机构开放。
为满足欧盟《人工智能法案》对AI生成内容透明度的监管要求,OpenAI公布了一套文本溯源方案,并推出名为textGrain的文本水印技术。该技术通过在模型进行词选择时加入不可见统计信号,使生成文本具备可被检测的来源标记,从而为AI输出内容的追溯提供技术手段。
从开放节奏来看,OpenAI采取了分阶段推进的策略。API客户即日起可对部分模型选择性开启水印功能,这意味着开发者能够根据自身合规需求灵活配置。与此同时,OpenAI计划在未来数周内,面向欧盟地区的ChatGPT和Codex输出添加隐形水印,以配合该区域即将落地的监管安排。
在检测环节,OpenAI目前并未全面开放水印识别能力。检测器暂只向获批的研究者和专家机构开放,普通用户及第三方开发者尚无法直接调用。这一限制表明,OpenAI在推动合规的同时,对水印检测技术的滥用风险保持审慎态度。
整体而言,textGrain的推出是OpenAI在AI内容溯源领域的一次实质性动作,既回应了欧盟监管压力,也为行业提供了文本水印落地的参考路径。不过,检测能力的受限开放意味着该方案的实际效果仍有待观察。
本文由新大陆基于公开信息编辑整理
信息来源:AIHOT AIHOT原文 ↗