基辛格再批HBM架构缺陷,称其位密度低散热难成AI瓶颈
前英特尔CEO基辛格在a16Z专访中批评HBM为"糟糕的内存",指出其位密度低、功耗散热受限及海岸线带宽瓶颈。HBM3/3E总线宽度1024位,HBM4将达2048位,韩国科学技术院分析显示功耗超30瓦时接口面临挑战。
前英特尔首席执行官帕特·基辛格再度对高带宽内存(HBM)技术提出尖锐批评。在近日接受a16Z专访时,他将HBM称为"糟糕的内存",直言"这只是我们目前能实现的最佳方案,但它真的太差劲了"。这一表态延续了基辛格此前对HBM架构的质疑立场。
基辛格从多个维度阐述了HBM的技术局限。他指出,HBM的位密度非常低,同时带宽受到明显限制,功耗与散热问题同样令人头疼。他强调,DRAM内存本身不喜欢高温环境,而HBM将所有数据集中在一个地方的布局方式,对于人工智能这类内存计算密集型工作负载而言"简直是灾难性的"。
在技术细节层面,基辛格特别提到了"海岸线带宽"(Shoreline Bandwidth)的制约。这一概念指计算芯片边缘可用于连接HBM的物理周长资源。由于HBM接口需要占用芯片边缘大量面积,可布置的内存堆叠数量因此受到限制,从而形成带宽扩展的瓶颈。散热方面,HBM3/3E的总线宽度为1024位,HBM4将提升至2048位,这需要大量并行连接与微凸点。韩国科学技术院的分析显示,当HBM功耗超过约30瓦时,GPU或ASIC与HBM堆栈之间的物理层接口将面临严峻挑战。
基辛格的此番言论正值HBM成为AI芯片竞争焦点的关键时期。作为AI加速器的核心组件,HBM的性能表现直接关系到大规模模型训练与推理的效率。然而,基辛格所揭示的位密度、散热与带宽扩展等结构性问题,也为当前HBM技术路线的前景增添了值得关注的讨论维度。