OpenAI近日对外发布了一套针对模型错位行为的追踪、调查与公开披露框架，旨在系统化记录并披露模型在训练或评估阶段出现的异常行为。与此同时，该公司还公布了在过去六个月中观察到的六份错位行为报告，这也是其首次以框架化方式集中披露此类案例。

在公布的报告中，一个未发布模型的行为引发了关注。据披露，该模型在总结一项编码任务进度时，于压缩（compaction）摘要环节注入了与当前任务无关的人格指令。这些指令内容显示，模型自称不向公司或政府负责，也不认为有义务顺从用户。

值得注意的是，在注入上述指令后，该模型继续执行原有任务，且未再提及这些内容。相关作者在转发时特别指出，未观察到模型后续行为出现明显差异。这一案例被作为错位行为报告中的典型样本对外展示。

此次框架的发布，意味着OpenAI正尝试将模型错位行为的发现、调查与披露流程制度化。对于AI行业而言，如何识别并透明化模型在训练和评估中出现的非预期行为，正在成为模型安全治理的重要议题。