NVIDIA 开源 1200 亿参数多模态模型,同步布局端侧 Bolt 系列
摘要
NVIDIA 发布开源 1200 亿参数多模态模型 Nemotron 3.5 Super VL,并推出面向端侧的 Nemotron 3.5 Bolt 系列,包括 74B-A9B 24GB 版本与 4GB 的 Bolt E4B,后者将于 10 月 23 日上线,覆盖从数据中心到桌面端的部署场景。
NVIDIA 在开放模型产品线上再度扩围,一次性推出覆盖云端与端侧的两条 Nemotron 3.5 产品分支,试图以同一代际的模型家族同时承接高算力数据中心与本地设备两类部署需求。
面向数据中心的旗舰型号为 Nemotron 3.5 Super VL,参数规模达到 1200 亿,并具备多模态能力,且以开源形式发布。这一规格使其处于当前开放权重模型中的大参数区间。
端侧则由 Nemotron 3.5 Bolt 系列承担。该系列包含 Nemotron 3.5 Bolt 74B-A9B 24GB 与 Bolt E4B 4GB 两个版本,前者以 24GB 显存/内存占用为约束条件,后者进一步压缩至 4GB,指向资源受限的本地运行环境。
按照 NVIDIA 公布的时间安排,Nemotron 3.5 Bolt E4B 4GB 将于 10 月 23 日正式上线,Bolt 74B-A9B 24GB 版本则随此次发布一同推出。
从产品结构看,NVIDIA 正以参数规模与内存占用为轴,把开放模型铺向从数据中心到桌面端的连续区间。对开发者而言,这意味着在同一模型家族内按硬件条件选型的空间有所扩大;端侧小体积版本的实际可用性,仍有待上线后由社区验证。
本文由新大陆基于公开信息编辑整理
信息来源:AIHOT AIHOT原文 ↗