考克森称Anthropic IPO图表揭示算法效率加速,重训Mythos仅需少量算力
摘要
前Anthropic研究员雅各布·考克森称,公司IPO路演中一张算力需求图表促使他离职。该图显示算法效率提升速度加快,Mythos模型重训只需初始训练的一小部分算力。他主张明年暂停前沿模型研发。
曾在OpenAI与Anthropic任职的研究员雅各布·考克森近日透露,Anthropic在IPO路演中展示的一张幻灯片,是他选择离职的重要原因之一。考克森在Anthropic仅工作约四个月,这张图表展示的是AI模型训练算力需求的变化趋势。
据考克森描述,该图表采用压缩坐标轴,即便算力需求增长10倍甚至100倍,视觉上的差距也不明显,但曲线整体仍呈急剧上升态势。他认为,这反映出算法效率不仅提升迅速,而且提升速度本身还在加快。他直言这张图“实在太惊人了”,并称没想到公司会将其公开。
考克森进一步指出,Anthropic今年春季推出的Mythos模型性能实现重大突破并非偶然,而是算法效率加速提升的结果。他写道,Mythos是超指数增长趋势中的一个节点,如今只需耗费最初训练时的一小部分算力,就能重新训练该模型。
基于算法改进即将走向自动化的判断,考克森主张明年暂停前沿AI模型研发,让竞争对手获得追赶空间。他认为此举将使达到人类水平的智能成为可广泛获取的商品,而受损害的只有OpenAI和Anthropic。考克森曾在OpenAI负责模型训练工作,今年9月曾公开警告先进AI的相关风险。
本文由新大陆基于公开信息编辑整理
信息来源:IT之家 IT之家原文 ↗