英伟达CUDA Toolkit 13.5正式发布,Vera Rubin平台迈入生产部署阶段
英伟达11月4日发布CUDA Toolkit 13.5,为下一代AI计算平台Vera Rubin提供正式可用支持,意味着该架构从开发者预览阶段转入企业生产环境部署。此次更新还升级了MPS v3多进程服务与cuBLAS低精度矩阵运算优化。
英伟达于当地时间11月4日推出CUDA Toolkit 13.5版本,核心变化在于对下一代AI计算平台Vera Rubin给出正式可用(GA)支持。这一节点意味着Vera Rubin架构已完成从早期开发者预览到面向企业生产环境部署的过渡,底层软件栈的就绪为后续硬件规模化落地铺平了道路。
在计算性能层面,新版本调整了cuBLAS的矩阵乘法启发式策略与内核调优机制,并针对Vera Rubin架构上的NVFP4、MXFP8低精度矩阵运算做了专门优化,覆盖混合专家模型(MoE)等训练场景。英伟达方面表示,这些改进无需针对每种计算形状逐一进行自动调优,即可提升训练与推理吞吐量。
GPU资源调度同样是本次更新的重点。CUDA 13.5对NVIDIA多进程服务(MPS)v3进行升级,引入加权时间片机制:管理员可为运行重负载的MPS服务器配置更长的基础计算时间片,并独立调节GPU在不同任务间的切换频率,从而在多任务环境下更灵活地分配资源。MPS v3还新增流式多处理器(SM)分区负载均衡能力,任务可在资源充足时借用其他分区的闲置SM资源,原分区需要时系统再行回收。
除上述方向外,此次更新还涉及数学计算库与性能分析工具的完善,整体面向大规模AI训练和推理场景。对依赖英伟达软件栈的AI基础设施团队而言,CUDA 13.5的GA状态为在Vera Rubin平台上规划生产级部署提供了明确的软件基线。