英伟达推出1200亿参数Nemotron 3.5 Super VL，单GPU智能体吞吐量提升5倍

英伟达于10月15日宣布推出开放多模态模型Nemotron 3.5 Super VL，该模型面向需要持续运行并执行多步骤任务的AI智能体场景。模型采用混合专家（MoE）架构，总参数量为1200亿，激活参数为120亿。英伟达表示，在单张GPU上执行智能体任务时，该模型的吞吐量最高可达到同规模其他开放模型的5倍。

在能力整合方面，Nemotron 3.5 Super VL将推理、指令遵循和工具调用能力，与文本、图像、文档及视频理解能力融合于同一模型之中。其可覆盖的应用场景包括代码测试与调试、跨网站信息检索、文档分析、网络安全威胁识别以及视频内容检索等。开发者可借助英伟达NeMo工具链，结合自有数据、工具、政策和工作流程进行后训练，并根据业务需求调整模型行为。

英伟达同步披露了多个企业定制案例。AI数据技术提供商Scale AI为媒体娱乐公司Skydance Corporation定制了供应商信用处理智能体，相关工作负载的推理成本预计可降低97.5%、延迟降低80%。金融运营平台Ramp正将收据图像转换为包含商户、日期和支付信息的结构化JSON数据，预计吞吐量最高提升50%、延迟降低90%。AI21与AI安全公司Alice合作定制模型，用于威胁情报和漏洞分析，相关任务准确率提升40%。

在模型评测方面，英伟达称Nemotron 3.5 Super VL在多项基准测试中表现突出，但原文信息于此处截断，具体评测数据未完整呈现。此外，英伟达提到74B版本可压缩至24GB，进一步降低部署门槛，为开发者在有限硬件资源下运行大模型提供了可能。