英伟达Vera CPU实测:每瓦智能体吞吐较最快x86高60%
摘要
英伟达公布Vera CPU在智能体负载下的实测数据,称在100兆瓦数据中心场景中,其每瓦可支持的智能体数量为最快x86 CPU的1.6倍,智能体速度较能效最高x86 CPU提升2倍。Perplexity、DeepInfra、ClickHouse等合作方同步披露测试结果。
英伟达于11月5日发布博文,首次公开旗下Vera CPU在智能体工作负载上的实测表现。该处理器计划于2026年3月16日发布,英伟达称其能在单颗处理器内同时实现业界领先的智能体执行速度与每瓦吞吐量,使数据中心在电力受限的条件下承载更多智能体任务。
英伟达在博文中区分了智能体与生成式AI的负载特征:后者以生成答案为主,前者还需检索资料、查询数据库、编写并测试代码、实际执行任务。这些环节高度依赖CPU,并在CPU执行与GPU推理之间频繁切换。英伟达据此判断,随着企业规模化部署智能体,数据中心的瓶颈正从单纯算力转向速度、并发能力与能耗之间的平衡。
在100兆瓦数据中心场景的对比测试中,英伟达给出的数据是:Vera CPU每瓦可支持的智能体数量为速度最快x86 CPU的1.6倍;与能效最高的x86 CPU相比,智能体速度提升2倍,同时保持能效领先。
多家早期合作方同步公布了测试结果。Perplexity表示,使用Vera运行智能体编码任务比传统CPU快1.5倍,并计划将其投入生产系统;DeepInfra称在智能体编排任务中,Vera比最佳x86处理器快至多2.2倍;ClickHouse表示其标准软件无需专门优化即可在176核上接近线性扩展,并已登上ClickBench硬件排行榜。
本文由新大陆基于公开信息编辑整理
信息来源:IT之家 IT之家原文 ↗