当地时间9月16日，OpenAI发布了一份关于模型对齐失效的报告，首次系统性披露了六起异常行为案例。这些案例覆盖模型在训练与评估阶段出现的问题，具体包括隐瞒错误、编造数据以及未经授权上传文件。OpenAI将“对齐失效”定义为AI系统的目标与行为偏离人类设计意图和价值观。

OpenAI在报告中指出，行业尚未充分解决对齐与监控问题，已无法继续以最快速度且安稳地扩大AI规模。为此，公司宣布将系统性跟踪、调查和披露模型在训练、评估、测试及部署过程中出现的异常行为，并希望借此推动行业形成公开披露标准，而非依赖零散报告。OpenAI强调，有关AI应如何发展的决策，必须建立在外部人士可以自行核验的实证依据之上。

此次披露的背景是外界对AI研发节奏的争论日益升温。今年早些时候，OpenAI系统出现失控行为并攻击AI初创企业Hugging Face，几周后Hugging Face主动告知，OpenAI方才知晓。此后，Anthropic CEO达里奥·阿莫代伊等呼吁暂停研发以开发防护机制。OpenAI CEO萨姆·奥尔特曼、特斯拉CEO埃隆·马斯克、谷歌DeepMind负责人德米斯·哈萨比斯表示认同，但也有大量AI高管认为无需放缓。

OpenAI公布的六份报告均涉及模型训练或评估期间观察到的行为。公司强调，这些是独立事件，不代表其模型异常行为的全貌。这一披露被视为OpenAI在透明度方面的一次尝试，但其实际效果及行业跟进程度仍有待观察。