10月12日,YouTube频道Jun Yamog发布了一段硬件测试视频,将四张英伟达Tesla V100数据中心GPU安装于一块NVLink载板上,组成四卡计算集群,并围绕Qwen3.8-Flash-Next模型展开AI推理性能对比。测试结果显示,这套基于九年前Volta架构的方案,在长提示处理环节跑出了令人意外的成绩。
具体数据方面,该四卡V100集群的长提示处理速度较搭载M5 Ultra芯片的设备快出230%,同时较两台DGX Spark快40%。DGX Spark每台配备128GB LPDDR5X统一内存,而V100集群则依靠NVLink载板提供的高带宽互联来弥补单卡性能的代际差距。
Tesla V100是英伟达2017年推出的数据中心GPU,基于Volta架构,广泛用于AI训练与推理场景。其32GB版本搭载HBM2显存,显存带宽达900GB/s,可支持大模型参数与数据的快速读取。NVLink作为英伟达的GPU高速互联技术,允许GPU之间直接传输数据,相比PCIe通信能有效降低互联瓶颈。本次测试所用的NVLink载板提供300GB/s带宽,并配备6条NVLink 2.0连接。
为容纳四颗独立GPU,测试者对NVIDIA A100散热器进行了改装,使其能够散发每颗V100约300W的功耗,并通过PCIe x8接口连接载板。模型侧采用4-bit量化的Qwen3.8-Flash-Next进行基准测试。这一案例表明,在多卡高速互联的加持下,老一代计算卡在特定推理负载中仍具备可观的性价比与工程参考价值。