随着AI大模型对算力需求的激增，内存带宽正成为制约系统性能的关键瓶颈。近期，苹果、小米、英伟达等芯片厂商的新品不约而同地将内存带宽作为核心卖点，试图突破这一物理限制。苹果最新发布的Mac系列中，标准版M6统一内存带宽达170GB/s，M5 Pro版本提升至307GB/s，而顶配M5 Ultra更是跨过TB级大关，达到1.2TB/s。小米公布的端侧AI加速芯片玄戒O100同样实现了1.22TB/s的带宽，英伟达消费级旗舰RTX 5090则凭借32GB GDDR7显存将带宽推至接近1.8TB/s。

内存带宽之所以如此重要，是因为大模型运行时的自回归生成阶段，计算单元每生成一个新token都需将内存中的数十亿参数权重完整读取一遍。这导致算力再强，若数据搬运不及时，处理器也只能空转等待，形成所谓的memory-bound（内存受限）现象。这一瓶颈源自经典的冯·诺依曼架构，存储与计算分离的设计使得数据必须通过总线来回传输，而算力增速远超内存带宽增速，差距持续扩大。

为应对这一挑战，芯片厂商从不同技术路径给出了解法。英伟达采用512-bit超宽位宽与GDDR7显存组合，以最直接的方式拉高带宽；小米玄戒O100则采用晶圆级垂直堆叠（Wafer-on-Wafer），将两层DRAM晶圆直接压在NPU计算晶圆上方，通过微米级垂直互联实现高带宽；苹果则通过统一内存架构消除CPU与GPU间数据复制，并利用雷雳5接口支持多设备集群，进一步扩展带宽能力。

此外，存储巨头正将产能向AI数据中心所需的HBM和高规格服务器DDR5倾斜，挤压了消费级PC DRAM的供给，导致合约价格持续上涨。美光已宣布逐步退出消费级内存业务，SK海力士也终止了部分第三方品牌授权店运营。这反映出普通消费者加装内存的预算，正与全球AI数据中心争夺同一批先进晶圆产能。

更前沿的探索则指向存内计算（PIM）和计算存储（CIM），试图将部分计算单元直接集成到存储颗粒附近，从根本上减少数据搬运距离。尽管这些技术尚待成熟，但方向已明确：未来的芯片设计必须让数据少走几步路。正如1995年计算机科学家William A. Wulf和Sally A. McKee在论文《Hitting the Memory Wall》中预见的，内存墙问题正随着大模型爆发而愈发凸显，成为整个行业必须直面的核心挑战。