Fireworks AI 推出 Ember-1:基于 Kimi K3 后训练,推理 Token 缩减约四成
摘要
Fireworks AI 发布后训练模型 Ember-1,基于 Moonshot AI 开源权重的 Kimi K3 打造。该模型在保持任务准确率的前提下,将生成推理 Token 减少约 40%,并在 Terminal Bench 2.1 与 DeepSWE 1.1 上超过 K3 Max。目前仅通过 Fireworks Serverless API 以研究预览形式提供,未开放权重。
Fireworks AI 近日推出了一款名为 Ember-1 的专用模型,其底座是 Moonshot AI 开放权重的 Kimi K3,并在此基础上完成了后训练。这一动作意味着,围绕开源权重模型进行二次优化、面向特定推理场景做减法,正在成为厂商差异化竞争的一条路径。
Ember-1 的核心改进落在推理过程的内部优化上。官方信息显示,该模型在维持任务准确率的同时,将生成的推理 Token 削减了约 40%。值得注意的是,这种缩减并非简单调低推理努力程度,而是保留了有价值的自我反思环节,同时压缩掉冗余的循环步骤。
在基准测试层面,Ember-1 于 Terminal Bench 2.1 和 DeepSWE 1.1 两项评测中均取得了优于 K3 Max 的表现。此外,Fireworks AI 表示该模型在生产环境的 A/B 测试中带来了显著的成本节约,这与其推理 Token 数量下降直接相关。
从可用性看,Ember-1 目前仅通过 Fireworks Serverless API 以研究预览形式对外提供,权重并未开放。对于关注推理成本与部署效率的团队而言,这一模型的后续开放程度和实际调用表现值得持续跟踪。
本文由新大陆基于公开信息编辑整理
信息来源:AIHOT AIHOT原文 ↗