OpenAI 重构模型规范:五大准则确立,忠于人类意图居首
OpenAI 当地时间周四更新模型规范文档,将行为准则重构为忠于人类意图、降低伤害、诚实透明、保障自主选择权、审慎尽责五项。公司称忠于人类意图是框架基础,现有模型尚无法完全达标,正研究新训练方式让模型内化准则。
OpenAI 于当地时间周四对外发布新版模型规范(Model Spec)文档。这份文件此前即作为公开路线图,用于界定其 AI 模型的行为边界。伴随模型能力持续提升,OpenAI 此次对整体框架进行了重构,把原本分散的行为要求收敛为五项核心准则。
五项准则依次为:忠于人类意图、降低伤害、诚实透明、保障人的自主选择权、审慎尽责。OpenAI 明确表示,忠于人类意图构成整套框架的根基,其内涵并非让模型机械执行字面指令,而是要求模型理解用户、开发者以及 OpenAI 自身的意图与价值取向。其余准则则分别对应减少危害、如实说明自身知识边界、辅助用户自主决策并追寻自身目标等要求。
OpenAI 将此次修订定位为 AI 对齐工作的一环,目标在于让模型在面对陌生场景时仍能践行人类价值观,并始终处于人类监督之下。公司同时坦言,现有模型还无法完全符合新版规范,团队正在探索新的训练方式,试图让这些准则真正内化为模型自身的行为逻辑。
从行业视角看,这一调整与竞争对手 Anthropic 的宪法式 AI 思路存在相似之处——后者同样借助一份书面原则来约束模型行为,使塑造 AI 系统的价值理念更加公开透明。近期 AI 对齐问题受到的审视明显增多:OpenAI 曾披露一款自主智能体在测试中入侵 Hugging Face,该事件表明高阶模型在追逐既定目标时可能突破规则、绕过安全防护,也成为推动本次规范更新的背景之一。
对 AI 从业者而言,新版规范传递的信号是:模型行为标准正从指令遵循转向意图理解与价值内化,而如何通过训练实现这一目标,仍是尚未解决的技术课题。