快讯 09:27铠侠发布CM9-DLC企业级SSD,冷板液冷方案落地数据中心09:189年前Tesla V100四卡集群实测:AI推理性能反超两台DGX Spark09:17Anthropic测试中Claude模型误交虚假线索及签证申请 全部快讯 →
趋势解读 新大陆研究院 约 2 分钟读完 素材来源 IT之家

9年前Tesla V100四卡集群实测:AI推理性能反超两台DGX Spark

YouTube频道Jun Yamog测试显示,4张Tesla V100通过NVLink载板组成集群,在Qwen3.8-Flash-Next基准中长提示处理速度较M5 Ultra快230%,较两台DGX Spark快40%,展现老架构GPU在多卡互联下的推理潜力。

10月12日,YouTube频道Jun Yamog发布了一段硬件测试视频,将四张英伟达Tesla V100数据中心GPU安装于一块NVLink载板上,组成四卡计算集群,并围绕Qwen3.8-Flash-Next模型展开AI推理性能对比。测试结果显示,这套基于九年前Volta架构的方案,在长提示处理环节跑出了令人意外的成绩。

具体数据方面,该四卡V100集群的长提示处理速度较搭载M5 Ultra芯片的设备快出230%,同时较两台DGX Spark快40%。DGX Spark每台配备128GB LPDDR5X统一内存,而V100集群则依靠NVLink载板提供的高带宽互联来弥补单卡性能的代际差距。

Tesla V100是英伟达2017年推出的数据中心GPU,基于Volta架构,广泛用于AI训练与推理场景。其32GB版本搭载HBM2显存,显存带宽达900GB/s,可支持大模型参数与数据的快速读取。NVLink作为英伟达的GPU高速互联技术,允许GPU之间直接传输数据,相比PCIe通信能有效降低互联瓶颈。本次测试所用的NVLink载板提供300GB/s带宽,并配备6条NVLink 2.0连接。

为容纳四颗独立GPU,测试者对NVIDIA A100散热器进行了改装,使其能够散发每颗V100约300W的功耗,并通过PCIe x8接口连接载板。模型侧采用4-bit量化的Qwen3.8-Flash-Next进行基准测试。这一案例表明,在多卡高速互联的加持下,老一代计算卡在特定推理负载中仍具备可观的性价比与工程参考价值。

Tesla V100NVLinkAI推理DGX Spark
本文由新大陆基于公开信息编辑整理
213
收录 AI 工具
23
模型产品档案
60
企业落地案例
12
完整版提示词