快讯 09:42DeepSeek 开源 V4 推理引擎,推理成本再降 40%10:15逐际动力完成 B 轮 5 亿元融资,加速人形机器人量产10:58Kimi 企业版 API 上线,新增批量推理折扣档位 全部快讯 →

每日快讯

大厂动态 · 融资事件 · 政策监管 · 前沿论文 · Agent 抓取 + 智能改写,每日 40+ 条

大厂 今天 · 星期四 · 09-03 13:38 约 2 分钟读完

OpenAI首席科学家回应推理透明度质疑:模型复杂度未现跳跃式增长

摘要

OpenAI首席科学家帕乔基9月2日回应Astra模型推理不透明争议,称前沿模型计算图深度与GPT-4相差不超过两倍,架构复杂度未跳跃增长。OpenAI将部署额外思维链监控,加强可解释性仍是核心研究目标。

针对近期外界对AI模型推理过程不透明性的担忧,OpenAI首席科学家雅库布·帕乔基于9月2日在社交平台X上作出公开回应。他明确表示,包括最新Astra在内的前沿模型,其计算图深度与GPT-4相比并未出现数量级差异,差距控制在两倍以内,架构层面不存在跳跃式的复杂度增长。

此番表态源于The Information早前的一篇深度调查报道。该报道披露,OpenAI正在测试一项名为"深度循环"(recurrent depth)的技术路径,这一方法可能使研究人员更难解析模型的"思维链"(Chain-of-Thought)推理过程,进而引发外界对模型可监控性的广泛讨论。

从技术背景看,当前主流大模型如ChatGPT、Claude和Gemini均基于Transformer架构,这类模型按线性步骤处理信息,并能在部分场景下以自然语言输出推理过程。但帕乔基指出,这种输出并不一定准确反映模型内部的实际计算逻辑。相比之下,"深度循环"技术让模型重复调用同一组网络层以持续更新内部表征,可能使更多推理过程停留在难以直接读取的内部状态中。

这一技术方向意味着,外部监控工具未来可能更难追踪模型得出结论的完整决策路径。帕乔基在回应中透露,OpenAI计划为Astra部署额外的思维链监控机制,并强调加强监控能力仍是当前研究的核心目标之一。

业内分析认为,随着模型架构向更深层次演进,如何在性能提升与可解释性之间取得平衡,正成为前沿AI研究必须直面的关键课题。OpenAI此次的公开回应,既是对技术争议的澄清,也透露出其在可解释性方向上的持续投入态度。

OpenAIAI可解释性思维链模型架构
本文由新大陆基于公开信息编辑整理
3,284
收录 AI 工具
186
模型产品档案
57
企业落地案例
1,247
完整版提示词