奥睿科发布FM9800固态硬盘:pSLC AI Cache分区支持本地AI推理
摘要
奥睿科推出FlashMem FM9800固态硬盘,基于3D TLC NAND并划分pSLC模式的AI Cache区域,采用PCIe Gen5接口,提供768GB+85GB与1638GB+128GB两个版本,可承接AI模型权重与本地推理中间数据。
奥睿科(ORICO)于本月13日推出FlashMem FM9800固态硬盘,该产品在存储架构上针对本地AI推理场景做出专门设计。其闪存介质基于3D TLC NAND,并将其中一部分配置为pSLC模式,单独划作AI Cache区域。
从技术实现看,AI Cache区域与常规存储部分采用各自独立的磨损策略和读写调度机制,以避免两类负载相互干扰。产品采用M.2 2280外形规格,支持PCIe Gen5接口,表面覆盖石墨烯导热贴,提供768GB+85GB和1638GB+128GB两种容量组合。
在应用层面,AI Cache主要用于承接AI模型权重、上下文以及本地推理过程中的中间数据。配合AI存储中间件与Herdsman本地推理引擎,该硬盘可实现GPU显存、系统内存与AI闪存缓存之间的分层协同,从而为本地模型运行提供更灵活的容量空间。
对关注端侧与本地部署的从业者而言,这一产品将闪存缓存纳入AI推理的存储层级,反映出存储厂商正围绕本地模型运行需求细化产品形态。其实际分层调度效果与pSLC区域的耐久表现,仍有待后续测试数据验证。
本文由新大陆基于公开信息编辑整理
信息来源:IT之家 IT之家原文 ↗