OpenAI 的 Jalapeño 定制推理芯片发布

OpenAI 的芯片项目从初始设计到流片仅用了大约九到十六个月 ^[5]，这一时间表异常之快，有行业分析指出这可能是芯片设计领域的一项新纪录 ^[1]——如此紧凑的时间主要归因于 OpenAI 将其自身的 AI 模型直接应用于硬件设计本身。用于 Jalapeño 的 AI 编写的内核实现，性能比人类专家编写的内核高出 1.5 到 1.8 倍 ^[2]，AI 还被用于加速验证循环和整个设计过程中的底层内核优化 ^[2]。一项技术拆解发现，经过 AI 调优的矩阵单元在 BF16 乘法运算中实现了约 56% 的性能提升，同时将矩阵单元的芯片面积缩小了约 10% ^[3]。在彭博科技的一次采访中，Richard Ho 指出了另一个体现速度的标志：三种截然不同的 AI 模型在 OpenAI 收到新硬件后的几个月内就成功运行起来，他以此说明编程模型本身的成熟速度足以跟上硅片的发展节奏。最终的单颗芯片在 700W 功耗下实现了 13.4 PFLOPS 的 MXFP4 计算能力、216 GiB 的 HBM4 内存和 15.4 TB/s 的带宽 ^[3]，在由 2,048 颗芯片组成的计算单元中可扩展至 27 EFLOPS 和 432 TiB 内存 ^[3]。值得注意之处不仅在于一个实验室造出了芯片，更在于这款芯片的诞生过程依赖于它所要运行的 AI 技术本身，将模型辅助工程引入了一个传统上需要人类团队多年努力的领域。

OpenAI 公布的关键数据——相比英伟达 GB200/GB300 系统，每瓦特吞吐量高出 1.5 倍至 1.9 倍，端到端延迟低 1.7 倍至 3.6 倍 ^[4]——听起来具有决定性意义，但细节却使情况复杂化。独立审查 InferenceX 对比测试的 SemiAnalysis 称，对于第一代芯片而言，这些结果属于‘行业领先’^[5]，但也提醒称，将 Jalapeño 与 Blackwell 架构对比并不完整也不公平，因为英伟达即将推出的基于 HBM4 的 Vera Rubin 平台才是更接近同期的竞争者，而 OpenAI 的测试使用的是单 token 预测，而 Rubin 的典型对比则采用推测性解码（speculative decoding）^[5]。OpenAI 硬件负责人 Richard Ho 将这些结果描述为‘对现有技术水平的一次极为显著的性能飞跃’^[6]。此外，在彭博科技的采访中，Ho 强调基准测试是在 InferenceX 上运行的，这是一个开源基准测试工具，特意选择它是为了避免比较依赖于 OpenAI 自身的评分体系。即便如此，目前尚未发布任何独立的完整技术报告，而 OpenAI 的宣传口径与基准测试实际范围之间的差距正是质疑声最强烈的地方：此次对比针对的是两年前的架构，而非英伟达即将出货的芯片。Reddit 上 r/OpenAI 和 r/tomshardware 社区的讨论普遍表示印象深刻但持谨慎态度，同样的对 Rubin 缺席的质疑也独立出现——一条获得广泛点赞的 r/tomshardware 帖子（224 赞）特别指出 Vera Rubin 未参与对比，得出了与 SemiAnalysis 相同的结论，尽管并未引用后者。另一条高赞 Reddit 评论进一步深化了批评，认为 Jalapeño 的真正优势集中在低延迟场景，而非整体吞吐量，而这一点却被 OpenAI 的 headline 倍数模糊化了。

博通 CEO 郝克·谭（Hock Tan）估计，该加速器的成本优势约为比典型 AI GPU 低 50% ^[7]，而 OpenAI 设计 Jalapeño 的目的正是为了最小化大语言模型服务过程中预填充（prefill）和解码（decode）阶段的数据移动和通信延迟 ^[6]——这些环节在 OpenAI 的规模下主导着推理成本。但只有当芯片实现大规模量产时，这种经济效益才真正成立，而这仍需时日：Jalapeño 在 OpenAI 自有基础设施中的部署预计将在 2026 年底前以极小规模启动，更大规模的生产要到 2027 年才会实现 ^[6]。这意味着 Jalapeño 在短期内对 OpenAI 的英伟达支出以及英伟达约 92% 的 GPU 市场份额 ^[8]的影响有限——这项公告更多是表明战略意图和技术能力的证明，而非立即发生的供应链转移。Reddit 上的评论从另一个角度达成了类似共识：多位用户指出，Jalapeño 仍处于‘早期生产’阶段，而英伟达的 Rubin 显卡已经以数十万甚至百万级的规模生产，这一产量差距对近期经济性的影响远超任何基准倍数。

英伟达 CEO 黄仁勋（Jensen Huang）的公开回应偏向轻描淡写而非直接反驳：他表示‘很多项目都会启动，也有很多项目会被取消’，并将 Jalapeño 这类定制芯片项目描述为其最大客户中常见但往往失败的模式 ^[8]。相关报道也指出，该芯片特别在推理领域对英伟达的利润率构成了新的压力点，因为专用 ASIC 正是在这一领域最具竞争力 ^[9]。黄仁勋的回应值得关注之处不在于他否认了什么，而在于他没有否认什么：他并未质疑 OpenAI 的基准数据，而是押注于英伟达平台的广度以及将第一代芯片可靠地推向大规模生产的巨大难度，足以让一次 Hot Chips 上的亮眼表现变得无足轻重。在 X 平台上，OpenAI 自己发布的两条公告和基准测试帖子获得了远超任何独立评论的关注度——分别获得 22,544 和 14,127 个点赞——凸显出这是一场由公司主动推动的故事，而非外界自发反应的结果。独立声音也有发声：一位专注金融的账号 @RealNickMugalli 在回应黄仁勋言论时写道‘开火了（SHOTS FIRED）’，认为这种回应更像是对抗性的 bravado，而非实质性的反驳——这一解读与黄仁勋评论本身几乎未触及基准数据的事实相符。