OpenAI发布Jalapeño推理芯片，声称性能超越Nvidia

这些 headline 数据来自SemiAnalysis的公开InferenceX套件，但细节至关重要。该机构自身指出：“所有数据均由OpenAI提供。我们亲自在实验室验证了InferenceX的运行，但并未运行完整的InferenceX基准测试套件”^[1]。此次比较还排除了Nvidia最新推出的Vera Rubin系统，这些系统最近才开始发货^[2]——这意味着Jalapeño是与即将退出市场的GB200/GB300代产品进行对比，而非Nvidia当前的最新产品。测试未包含多轮对话或多长上下文（AgentX）基准，仅运行了单轮8k/1k测试^[1]。在线技术讨论还提出了另一个尚未验证的细节：据报道，Jalapeño的运行跳过了推测性解码（speculative decoding），而这一技术在Rubin级芯片的比较中常被使用，一些人认为这可能夸大了Jalapeño的相对优势——这一说法来自社区讨论，并未在原始报告中确认，因此应视为开放问题，而非既定事实。

OpenAI硬件主管Richard Ho简洁地阐述了该项目的目标：“Jalapeño能在单位功耗下处理更多AI任务，同时更快地返回响应”^[3]。这一主张背后的设计是深思熟虑的——OpenAI表示，Jalapeño被设计为“最小化数据移动和通信延迟”^[4]，通过大容量SRAM缓存与每芯片216 GB、带宽达15.4 TB/s的HBM4内存配合，将模型状态和KV缓存保持在计算单元附近^[5]。该架构旨在解决在大规模推理中通常成为瓶颈的预填充和通信阶段——这一层优化只有在同时控制芯片、网络和模型的情况下才能实现，而非简单采购现成的GPU系统。该项目的开发速度也异常迅速：从2024年底的架构构想，到2025年完成RTL冻结和流片，再到2026年初在芯片上运行Codex和ChatGPT^[5]，OpenAI利用自身AI模型与XLS硬件描述语言加速开发^[5]，实现了约九个月的RTL到流片周期，这在定制芯片领域也属极快速度^[6]——这一速度不仅在OpenAI的宣传材料中引人注目，也受到在线评论的特别关注，被普遍视为此次发布中最令人震惊的细节。在彭博科技的采访中，Ho更直白地指出：在同一芯片上同时实现高吞吐量和低延迟是行业首次，这种突破只有在模型、软件和芯片全栈控制的情况下才能实现，而非依赖现成的Nvidia部件组装系统。他还表示，OpenAI特意选择SemiAnalysis的InferenceX套件，是因为它是开源且中立的，而非由OpenAI自身控制的基准。

Jalapeño是一款仅用于推理的芯片——它不能用于训练模型，而在训练工作负载方面，Nvidia的硬件仍无可撼动^[2]。这一区别限制了OpenAI仅凭一次发布所能宣称的独立程度。即使在激进的部署计划下——2026年底小批量部署，2027年更大规模推广^[7]——OpenAI的训练堆栈及其背后数十亿美元的GPU采购承诺，仍牢牢依赖Nvidia。Jalapeño所主张的是大规模低成本服务模型的经济性，而非构建模型的能力。

CNBC将Jalapeño视为对Nvidia利润率的新威胁，认为随着模型厂商和超大规模企业定制芯片在快速增长的推理市场中占据份额，Nvidia面临压力^[8]。但并非所有人都认同这一观点：分析师Daniel Newman肯定了博通在Jalapeño工程上的贡献，但称“Nvidia杀手”之类的说法是令人厌倦的炒作^[9]。在线反应也呈现类似分歧——一些人持怀疑态度，认为这只是厂商主导的演示，只有在独立复现后才值得信任；另一些人则指出SemiAnalysis在实验室的验证是认真对待这些数据的理由。分歧不在于原始数据本身，而在于一个自报的、第一代芯片的发布，应如何与Nvidia多年成熟的量产记录相权衡。公众叙事也随时间显著变化：当博通CEO陈福阳（Hock Tan）在2026年6月首次向Sam Altman和Greg Brockman展示Jalapeño时，他告诉路透社其性能“似乎与Nvidia最新的Blackwell芯片和Google的TPU相当”——这一说法远比两个月后Hot Chips大会上OpenAI公布的性能超越数据要保守得多。从最初谨慎的表述到8月基于基准的激进主张之间的差距，本身也是故事的一部分：Jalapeño的叙事在发布与验证之间显著升级。