快讯 23:30Meta提出瘦编排器模式:1300行代码调度14个子智能体23:05美国土安全部发布命令,联邦文职机构须停用并移除DeepSeek相关产品23:03谷歌四智能体自主通关《我的世界》,耗时27小时击败末影龙 全部快讯 →

每日快讯

大厂动态 · 融资事件 · 政策监管 · 前沿论文 · Agent 抓取 + 智能改写,每日 40+ 条

论文 今天 · 星期二 · 10-20 16:54 约 1 分钟读完

DeepSeek 全面开源内部推理框架 DeepInfer 及 Token 编解码组件

摘要

DeepSeek 宣布将内部推理框架 DeepInfer 全面开源,同时开源生产级 Token 编解码组件 deepseek-recipe。此举将公司内部推理能力对外开放,为开发者提供可直接复用的生产级工具,具体技术细节与许可条款尚未披露。

DeepSeek 近日宣布,将其内部使用的推理框架 DeepInfer 全面开源。这意味着此前仅服务于公司自身业务的推理侧能力,正式向外部开发者开放。

与 DeepInfer 同步开源的还有 Token 编解码组件 deepseek-recipe。该组件被定位为生产级工具,可直接用于实际业务场景中的 Token 处理环节。

从公开信息看,此次开源覆盖推理框架与 Token 编解码两个层面,前者对应模型推理的执行效率,后者关系到输入输出的编码处理。两者组合,构成一套较为完整的推理侧工具链。

对 AI 行业从业者而言,内部框架开源通常意味着可参考的工程实现与可复用的生产组件增多。DeepSeek 未在公告中披露 DeepInfer 的具体技术细节、性能数据及开源许可条款,后续落地效果仍待开发者实测验证。

DeepSeekDeepInfer开源推理框架
本文由新大陆基于公开信息编辑整理
213
收录 AI 工具
23
模型产品档案
60
企业落地案例
17
完整版提示词