快讯 09:42DeepSeek 开源 V4 推理引擎,推理成本再降 40%10:15逐际动力完成 B 轮 5 亿元融资,加速人形机器人量产10:58Kimi 企业版 API 上线,新增批量推理折扣档位 全部快讯 →

硬件资讯

芯片 · GPU · 算力 · 存储 · 行情 · Agent 抓取 + 智能改写,每日更新

爱范儿 · 17:46 约 2 分钟读完

OpenAI首款自研推理芯片Jalapeño实测:每瓦吞吐远超英伟达GB200

摘要

OpenAI今日公布首款自研推理芯片Jalapeño的实测数据,在InferenceX基准测试中,其每千瓦峰值吞吐量和Token延迟均优于英伟达GB200/GB300,跑DeepSeek R1时单用户速度达700 tok/s,功耗仅550W。该芯片采用台积电N3P工艺,AI深度参与设计,被视为AI芯片领域的重要突破。

OpenAI首款自研推理芯片Jalapeño实测:每瓦吞吐远超英伟达GB200
图片来源:爱范儿

OpenAI今日正式发布其首款定制推理芯片Jalapeño(墨西哥辣椒)的实测性能数据。在基于开源模型GPT-OSS 120B的InferenceX基准测试中,该芯片的每千瓦峰值吞吐量和Token延迟均优于现有硬件系统,包括英伟达GB200和GB300。OpenAI CEO山姆·奥特曼在X平台评价称:“我们造了一颗芯片,快得离谱。”

据SemiAnalysis创始人Dylan Patel分析,Jalapeño在DeepSeek R1(670B)和Kimi K2.5(1T)等非OpenAI模型上也表现出色,单用户生成速度最高达700 tok/s,而GB300仅为169 tok/s。芯片标称功耗700W,实测持续功耗不超过550W,每千瓦吞吐量是GB200的53.7倍。这些数据在8K输入、1K输出、无推测解码的标准化测试条件下获得。

Jalapeño的设计逻辑强调减少数据搬运,采用核心与HBM切片一一对应的架构,通过专用高带宽集合通信网络和简化NoC降低延迟。OpenAI未采用业界热门的prefill-decode分离方案,而是使用统一池架构,128颗芯片组成机架,16个机架通过铜缆和光交换构成2048颗芯片的scale-up域。这种设计使其在GPU不擅长的小批量、低延迟场景中表现更佳。

值得关注的是,Jalapeño项目2024年年中启动,2025年11月流片,历时仅16个月,且AI深度参与设计,SIMD单元面积缩小8%,矩阵引擎缩小10%,部分AI生成的内核比人类专家手写版本快1.5-1.8倍。SemiAnalysis指出,这是第一代芯片即达到帕累托前沿的罕见案例,但CUDA护城河是否松动仍待观察。

OpenAI表示,Jalapeño目前处于量产验证阶段,年底将部署于自有算力基础设施,目标100MW规模。Gen 2已深入开发,Gen 3正在成形。这一进展与小米、苹果、高通等公司近期密集发布芯片的动作,共同指向AI芯片领域的垂直整合趋势。

OpenAI自研芯片JalapeñoAI推理
本文由新大陆基于公开信息编辑整理
3,284
收录 AI 工具
186
模型产品档案
57
企业落地案例
1,247
完整版提示词