快讯 23:54PS2初代安全芯片MechaCon被破解,爱好者耗时四年攻克26年谜题23:47古特雷斯呼吁全球协作管控AI风险,联大高级别周将成关键节点23:07华邦电子11.2亿美元接手英飞凌NOR与F-RAM业务,飞索半导体品牌将重启 全部快讯 →
实操专栏 新大陆研究院 约 2 分钟读完 素材来源 IT之家

三星发布zHBM愿景:目标将AI系统响应速度提升十倍

三星在AI基础设施峰会上宣布,计划通过下一代AI内存zHBM将AI加速器响应速度提升10倍,目标从每秒100词元跃升至1000词元。zHBM性能最高达HBM5的8倍,能效为其3倍,并计划2028年起提供zNAND-O样品。

在加州圣克拉拉会议中心举办的AI基础设施峰会上,AI内存技术成为核心议题,多家半导体企业借此机会披露了各自的新产品规划。三星电子在会上提出了一个明确的目标:借助其上月推出的下一代AI内存zHBM,将AI加速器的响应速度提升至现有水平的10倍。

三星电子美国公司负责存储产品规划的高管金仁东在会上详细阐述了这一愿景。他对比了当前与目标性能的差距:现有对话式AI系统每秒为每位用户处理100个词元,而三星希望将这一指标推高至每秒1000个词元,从而为智能体应用提供支撑。金仁东用了一个形象的比喻来描述zHBM的设计思路——将HBM直接垂直堆叠在AI加速器上,相当于在酒店客房里安装一部直达一楼大堂的专用电梯。这种架构带来的性能提升最高可达HBM5的8倍,能效则达到其3倍。

除了zHBM,三星还公布了另一项存储方案的时间表:计划从2028年起提供三维存储方案zNAND-O的样品。与此同时,常被视为高带宽内存补充方案的CXL技术在会上受到部分与会者的质疑。CXL作为下一代内存互连标准,允许计算设备连接更多内存,为服务器扩容,并支持不同服务器之间共享内存,AI加速器则通过CPU访问这些内存。

尽管部分半导体业内人士看好CXL的前景,认为其普及后有望缓解HBM价格高企和供应紧张的局面,即便减少HBM用量,服务器也能维持相近性能,但峰会上的质疑声表明,这一技术的落地路径仍存在分歧。三星此次公布的zHBM与zNAND-O路线图,反映出其在AI内存竞赛中试图以垂直堆叠架构确立差异化优势的战略意图。

三星zHBMAI内存HBM
本文由新大陆基于公开信息编辑整理
213
收录 AI 工具
23
模型产品档案
41
企业落地案例
5
完整版提示词