快讯 23:38乐奇Rokid香港开设全球首家AI眼镜无人体验店,主打自助沉浸式零售23:30阶跃星辰 Step 5 Preview 登陆 FeatherlessAI,FP8 精度开放部署23:19英伟达推出1200亿参数Nemotron 3.5 Super VL,单GPU智能体吞吐量提升5倍 全部快讯 →

每日快讯

大厂动态 · 融资事件 · 政策监管 · 前沿论文 · Agent 抓取 + 智能改写,每日 40+ 条

论文 今天 · 星期五 · 10-16 23:19 约 2 分钟读完

英伟达推出1200亿参数Nemotron 3.5 Super VL,单GPU智能体吞吐量提升5倍

摘要

英伟达发布开放多模态模型Nemotron 3.5 Super VL,采用MoE架构,总参数1200亿、激活120亿。单GPU智能体任务吞吐量最高达同规模开放模型5倍,74B版本可压缩至24GB,面向持续运行的多步骤AI智能体场景。

英伟达于10月15日宣布推出开放多模态模型Nemotron 3.5 Super VL,该模型面向需要持续运行并执行多步骤任务的AI智能体场景。模型采用混合专家(MoE)架构,总参数量为1200亿,激活参数为120亿。英伟达表示,在单张GPU上执行智能体任务时,该模型的吞吐量最高可达到同规模其他开放模型的5倍。

在能力整合方面,Nemotron 3.5 Super VL将推理、指令遵循和工具调用能力,与文本、图像、文档及视频理解能力融合于同一模型之中。其可覆盖的应用场景包括代码测试与调试、跨网站信息检索、文档分析、网络安全威胁识别以及视频内容检索等。开发者可借助英伟达NeMo工具链,结合自有数据、工具、政策和工作流程进行后训练,并根据业务需求调整模型行为。

英伟达同步披露了多个企业定制案例。AI数据技术提供商Scale AI为媒体娱乐公司Skydance Corporation定制了供应商信用处理智能体,相关工作负载的推理成本预计可降低97.5%、延迟降低80%。金融运营平台Ramp正将收据图像转换为包含商户、日期和支付信息的结构化JSON数据,预计吞吐量最高提升50%、延迟降低90%。AI21与AI安全公司Alice合作定制模型,用于威胁情报和漏洞分析,相关任务准确率提升40%。

在模型评测方面,英伟达称Nemotron 3.5 Super VL在多项基准测试中表现突出,但原文信息于此处截断,具体评测数据未完整呈现。此外,英伟达提到74B版本可压缩至24GB,进一步降低部署门槛,为开发者在有限硬件资源下运行大模型提供了可能。

英伟达Nemotron 3.5 Super VL多模态模型MoE架构
本文由新大陆基于公开信息编辑整理
213
收录 AI 工具
23
模型产品档案
60
企业落地案例
13
完整版提示词