快讯 22:26李在明视察蔚山在建数据中心,强调AI竞赛速度决定成败08:00Together AI 披露提示词泄露事件:编码 agent 误传凭证致样本外泄08:00Qwen4 Max登陆Together AI,1M上下文加持整仓bug修复 全部快讯 →

每日快讯

大厂动态 · 融资事件 · 政策监管 · 前沿论文 · Agent 抓取 + 智能改写,每日 40+ 条

大厂 11-10 · 星期二 · 11-10 19:04 约 1 分钟读完

研究揭示DALL-E 3提示词修订机制美化畜牧业形象

摘要

一项发表于《Technology in Society》的研究发现,OpenAI的DALL-E 3通过提示词修订机制,在生成畜牧业图像时倾向于浪漫化呈现,即使明确要求真实场景,仍多描绘牧场放养画面;关闭该功能后图像才更接近室内集约化饲养的实际状况。

生成式AI正加速进入日常信息获取与决策辅助场景,但模型内嵌的错误信息与偏见也随之引发伦理讨论。此前研究已指出,AI在肤色、性别、地理文化背景等人类特征相关内容上存在偏见。为缓解文本生成图像模型的此类问题,OpenAI等公司引入了提示词修订机制——在用户不知情的情况下重写输入提示词、补充细节,例如要求画面呈现不同性别与肤色的人物,以提升图像多样性。

然而,这种隐性改写本身可能带来新的偏见,甚至在用户无感知的情况下偏离其原始意图。发表于《Technology in Society》的一项研究以集约化畜牧业为案例,首次提供证据表明,OpenAI的文本生成图像模型DALL-E 3会借助提示词修订机制,抹去争议性议题的真实面貌。

研究显示,DALL-E 3表现出明显的浪漫化倾向:生成的图像通常是奶牛在牧场吃草、猪在泥地里拱土。即便研究人员明确要求呈现真实场景,这一偏见依然存在。而当研究人员关闭提示词修订功能后,生成的图像才更接近现代畜牧业的实际饲养方式,即农场动物被饲养在室内。

研究人员要求模型生成北美、欧洲和大洋洲农场的图像,结果发现,无论指定哪个地区,模型均呈现出上述美化倾向。该研究将提示词修订这一本用于降低偏见的机制,置于新的审视之下:当系统在后台悄然改写用户意图时,输出内容的真实性由谁负责,成为生成式AI落地过程中无法回避的问题。

DALL-E 3提示词修订AI偏见生成式AI伦理
本文由新大陆基于公开信息编辑整理
213
收录 AI 工具
27
模型产品档案
60
企业落地案例
33
完整版提示词