AMD 与 Embedded LLM 近日在 vLLM 官方博客联合发布技术文章，详细拆解了 Kimi K3 模型在 AMD Instinct MI355X 加速卡上的推理优化路径。这一合作将模型侧优化与硬件平台调优结合，目标是提升大模型推理的实际吞吐效率。

文章披露的核心测试结果来自八卡 AMD Instinct MI355X 配置。在该平台上，Kimi K3 的单 GPU 吞吐量达到 NVIDIA HGX B300 的 1.244 倍，即高出 24.4%。这一数字直接对比了两套面向数据中心的高性能推理方案。

从公开信息看，优化工作由 AMD 与 Embedded LLM 共同推进，并依托 vLLM 推理框架完成。博客内容聚焦于推理优化本身，未披露具体的并行策略、量化方案或 kernel 级实现细节。

对 AI 基础设施团队而言，该结果的意义在于为 Kimi K3 的部署提供了除 NVIDIA 平台之外的另一种可选路径。单卡吞吐的差异会直接影响单位算力下的服务成本与扩容规划，但实际选型仍需结合生态兼容性、集群规模与总体拥有成本综合评估。