OpenAI 第一颗自研芯片，为何让英伟达紧张

OpenAI 花了两年时间，悄悄做出了一颗名叫 Jalapeño 的推理芯片。

这颗芯片在 2024 年 10 月确定架构，2025 年 11 月完成流片。SemiAnalysis 的团队随后去了 OpenAI 实验室，在工程师配合下跑了 InferenceX 测试。结果很扎眼。Jalapeño 在多项开源大模型推理测试中超过英伟达 Blackwell，连刚开始出货的 Rubin 也没占到便宜。

第一代自研芯片就做到了这个程度，难怪研报的标题直接写了“比英伟达 Blackwell 更好”。

不过，标题里的火药味容易让人忽略一件更有意思的事。OpenAI 造芯片的思路，和传统芯片公司很不一样。它手里握着模型和海量真实请求，Codex 还能帮人写底层代码。芯片、软件和业务第一次被一家公司攥在了一起。

每一兆瓦能吐出多少 token

今天限制 AI 数据中心扩张的东西，越来越多时候是电。

GPU 可以下单，机房也能盖，电网接入却经常要等上几年。数据中心的供电、散热和备用电源都有上限。对 OpenAI 这样的公司来说，同样一兆瓦电能生成多少 token，直接影响它能服务多少用户。

Jalapeño 从一开始就盯着这个指标。SemiAnalysis 给出的测试显示，它在 DeepSeek R1 上以单 token 预测运行，并未使用推测解码，单位功耗吞吐仍超过了 Blackwell。在低并发场景里，单个用户的生成速度超过每秒 700 token。Kimi K2.5 和 GPT OSS 的部分测试接近每秒 1400 token。

拿下一代 Rubin 比，Jalapeño 的单位功耗吞吐依旧领先。两者每一美元能生成的 token 数已经很接近，Rubin 的成绩还用了多 token 预测。研报据此认为，等 Jalapeño 加入推测解码后，推理成本还有下降空间。

这些数字很强，也要看清比较条件。测试数据由 OpenAI 提供，SemiAnalysis 在实验室见证了部分 InferenceX 运行，没有独立跑完全部测试。当前负载主要是单轮的 8k 输入加 1k 输出，对路由、前缀缓存和多轮长上下文的压力有限。更贴近智能体生产环境的 AgentX 结果仍然空缺。

Jalapeño 目前也只有工程样片。量产计划会在 2027 年逐步爬坡，大部分产量排在第四季度。Rubin 已经开始向客户出货。工程样片在实验室里的漂亮曲线，距离稳定跑在大规模数据中心里，还有一段路。

OpenAI 给芯片做了减法

Jalapeño 使用台积电 N3P 工艺，单颗功耗 700 瓦，配有 216GB HBM4，内存带宽达到每秒 15.4TB。它的 MXFP4 算力为 13.4 PFLOPS，低于 Rubin 的 17.5 PFLOPS，功耗也更低。

OpenAI 把精力放在减少固定延迟，让芯片在小批量、低并发和形状不规整的计算里，也能接近理论上限。

传统 GPU 的内存层级很复杂。数据经过多层结构，延迟通常要靠更大的批量隐藏。Jalapeño 把计算核心和 HBM 切成多个对应区域，每组核心优先访问自己的内存区域，再通过专用网络同步。它还用了带一级缓存的乱序核心，减少屏障和调度带来的等待。

这套设计很依赖软件。预取没做好，数据不能及时送到，理论性能就落不了地。OpenAI 的解法很直接，让 Codex 去找最合适的内核。

Jalapeño 的内核接近汇编代码，有些长达 3000 行。早期仍需工程师参与，后来逐渐交给内部版 Codex。OpenAI 用自家的 Gluon 语言编程，又做了一个名叫 chilisim 的模拟器，实测误差控制在 5% 以内。Codex 可以先在模拟器里反复试，再把通过验证的内核放到真芯片上。

这个开发速度已经显出效果。研报记录到，某些交互档位的吞吐在不到两周里翻了一倍。团队还在八天内把张量并行从 8 路扩到 32 路，并跑通了整机柜的大模型配置。OpenAI 甚至让 Codex 把《毁灭战士》移植到芯片上，以每秒 36 帧运行。这个演示不解决推理成本，却说明软件栈已经能承担通用开发。

一池芯片，什么请求都接

业内常把大模型推理拆成两个阶段。输入阶段一次处理大量上下文，输出阶段逐个生成 token。两者需要的计算和内存能力不同，英伟达的软件方案倾向于把它们分到不同 GPU 池里。

OpenAI 选择了同一批 Jalapeño 芯片统一处理。

它面对的生产流量一直在变。白天和夜间的并发不同，输入输出长度也会变，缓存命中率还会随着请求类型波动。芯片池一旦固定拆开，一边排队时，另一边可能闲着。两个阶段分开后，还要把体积很大的 KV 缓存通过网络搬过去，延迟、带宽和故障点都会增加。

统一芯片池牺牲了一部分局部效率，换来更灵活的全局调度。每颗芯片都能接下一类请求，也能同时运行草稿模型和主模型。对于每天处理海量混合流量的 OpenAI，这种灵活性很值钱。

一套 Jalapeño 系统由 CPU 机柜和 ASIC 机柜组成。每个 ASIC 机柜装 128 颗芯片，整套系统功耗约 160 千瓦。16 个机柜最多可把 2048 颗芯片连进同一个扩展网络。OpenAI 的下一步目标是部署到 100 兆瓦。走到这里，主要难题会落在产量、可靠性和数据中心运维上。

英伟达短期内仍然很难替代

Jalapeño 会让英伟达感到压力。OpenAI 是全球最大的 GPU 买家之一，自研芯片每接走一部分推理需求，都会减少它对英伟达的依赖，也会增加采购谈判的筹码。

英伟达的优势仍然很厚。它有成熟的 CUDA 生态、稳定的量产能力，以及覆盖全球的数据中心供应链。Jalapeño 眼下缺少大规模部署记录，长上下文和多轮智能体负载也没有完整成绩。OpenAI 自己的算力需求还在快速增长，短期内大概率会把英伟达、AMD、TPU、Trainium 和自研芯片全部用上。

这颗芯片带来的变化先落在另一处。过去，芯片公司定义硬件，模型公司在已有硬件上优化软件。OpenAI 把真实业务负载送进设计过程，再让 Codex 加速内核开发。模型公司开始决定芯片该长什么样。

Meta 和微软做自研 AI 芯片已经多年，公开成绩一直没有达到 Jalapeño 这次展示的水平。OpenAI 用第一代产品证明，模型公司拥有足够清楚的需求、愿意投入数亿美元，再把 AI 编程工具接进芯片开发流程，确实有机会把开发周期压到传统行业难以想象的程度。

Jalapeño 能否真正改写市场，要等 2027 年的量产和生产负载给出答案。眼下已经成立的判断很朴素。英伟达面对的客户里，多了一家会自己设计芯片的公司，而且这家公司恰好也是最懂大模型推理需求的买家之一。

参考资料

• SemiAnalysis 于 2026 年 8 月发布的 Jalapeño 研报原文