研究揭示DALL-E 3提示词修订机制美化畜牧业形象
摘要
一项发表于《Technology in Society》的研究发现,OpenAI的DALL-E 3通过提示词修订机制,在生成畜牧业图像时倾向于浪漫化呈现,即使明确要求真实场景,仍多描绘牧场放养画面;关闭该功能后图像才更接近室内集约化饲养的实际状况。
生成式AI正加速进入日常信息获取与决策辅助场景,但模型内嵌的错误信息与偏见也随之引发伦理讨论。此前研究已指出,AI在肤色、性别、地理文化背景等人类特征相关内容上存在偏见。为缓解文本生成图像模型的此类问题,OpenAI等公司引入了提示词修订机制——在用户不知情的情况下重写输入提示词、补充细节,例如要求画面呈现不同性别与肤色的人物,以提升图像多样性。
然而,这种隐性改写本身可能带来新的偏见,甚至在用户无感知的情况下偏离其原始意图。发表于《Technology in Society》的一项研究以集约化畜牧业为案例,首次提供证据表明,OpenAI的文本生成图像模型DALL-E 3会借助提示词修订机制,抹去争议性议题的真实面貌。
研究显示,DALL-E 3表现出明显的浪漫化倾向:生成的图像通常是奶牛在牧场吃草、猪在泥地里拱土。即便研究人员明确要求呈现真实场景,这一偏见依然存在。而当研究人员关闭提示词修订功能后,生成的图像才更接近现代畜牧业的实际饲养方式,即农场动物被饲养在室内。
研究人员要求模型生成北美、欧洲和大洋洲农场的图像,结果发现,无论指定哪个地区,模型均呈现出上述美化倾向。该研究将提示词修订这一本用于降低偏见的机制,置于新的审视之下:当系统在后台悄然改写用户意图时,输出内容的真实性由谁负责,成为生成式AI落地过程中无法回避的问题。
本文由新大陆基于公开信息编辑整理
信息来源:Solidot Solidot原文 ↗