AMD联合Spectro Cloud发布Instinct Coder 355企业级编程平台
摘要
AMD携手Spectro Cloud推出企业级AI辅助编程平台Instinct Coder 355,搭载8张MI355X加速器,支持GLM-5.3本地推理部署,性能达前沿模型98%,单节点最多服务85名开发者。
AMD于当地时间11月9日宣布,与Spectro Cloud共同推出一款面向企业市场的AI辅助编程平台,命名为Instinct Coder 355。该系统的核心卖点在于支持GLM-5.3模型的推理部署,并能在本地环境中实现前沿模型98%的性能表现,为企业提供不依赖云端API的编程辅助方案。
从硬件配置看,Instinct Coder 355以8张AMD Instinct MI355X显卡加速器为算力基础,搭配2颗64核的EPYC 9575F "Zen 5" CPU,同时集成3TB DDR5-6400 RDIMM内存以及合计63.36TB的SSD存储。戴尔版本与Supermicro版本在其余规格上有所区别,AMD一并展示了两种形态的产品。
在服务能力方面,该系统每个节点可满足最多85位开发者的使用需求,并发支持50位。软件层面,Spectro Cloud为这套系统提供了PaletteAI Inference Launchpad管理软件,其默认调用本地算力而非云端API,这一设计契合企业对数据本地化和推理可控性的诉求。
整体来看,Instinct Coder 355将AMD的加速器硬件、EPYC处理器与Spectro Cloud的管理软件打包为一体化企业方案,瞄准的是希望在内部部署前沿编程模型、同时规避云端调用依赖的行业客户。
本文由新大陆基于公开信息编辑整理
信息来源:IT之家 IT之家原文 ↗