OpenAI的Jalapeño推理芯片挑战英伟达

OpenAI的核心主张非常明确：在运行GPT-OSS 120B、DeepSeek的R1和月之暗面AI的Kimi K2.5时，Jalapeño相比英伟达Blackwell代GB300系统每瓦AI工作量高出1.5倍至1.9倍，延迟低1.7倍至3.6倍^[1]。特别是在DeepSeek R1上，OpenAI报告在低并发下每位用户每秒可输出超过700个token，在GPT-OSS上接近每秒1,400个token——值得注意的是，这并未使用多token预测这一常见提速技巧，而竞争对手在其对比数据中据称使用了该技术^[2]。

但这些数据的来源也正是最响亮质疑的出处。提供InferenceX基准测试套件的SemiAnalysis在其自己的通讯中写道，将Jalapeño与Blackwell比较是‘某种程度上不完整且不公平的’，因为英伟达当前实际的继任产品Rubin才是更合适的对手^[2]。社区基准测试讨论进一步指出，Jalapeño自身的测试据称排除了推测性解码（speculative decoding）——即提前预测多个token以节省时间的技术——而OpenAI对Rubin的比较却似乎包含了该技术。如果属实，这种不对称会低估Jalapeño的真实优势，一旦方法论统一，差距可能更大。这也意味着目前除OpenAI外无人真正执行过这种标准化测试。SemiAnalysis自身也承认，它尚未独立运行完整的InferenceX套件，也未看到用于反映真实生产级代理工作负载的AgentX基准结果^[2]。在外部机构未在相同条件下对相同模型发布数据前，‘击败英伟达’这一说法完全依赖于主张方自身的测试框架。

定制AI芯片通常需要数年才能从概念变为可用硬件。据报道，Jalapeño从早期招聘和电路设计到成为可用于制造、光罩尺寸的ASIC，仅用了大约九个月^[3]，若从初始招聘算起则约为十六个月，这是较为保守的说法^[2]。无论哪种计算方式，这在行业中都属于异常紧凑的周期。

这种速度源于一种激进的软硬件协同设计方法，即在开发过程中直接使用OpenAI自身的模型，甚至通过其编码工具生成内核代码^[4]。在架构上，该芯片跳过了行业常见模式——即将prefill（处理输入提示）和decode（逐token生成响应）分配到不同硬件池中——而是将两者保留在统一资源上^[2]，专门用于减少通常在大规模推理中造成瓶颈的数据移动和通信延迟^[1]。这一设计选择表明，OpenAI认为避免硬件专业化带来的开销比分别优化每个阶段更重要，而这种赌注只有在同时掌控模型工作负载和芯片设计的情况下才可能做出——这是向多种客户销售产品的通用芯片供应商难以轻易复制的优势。

关于Jalapeño存在的最直白解释来自OpenAI自身的硬件负责人：‘我们对算力的需求实在太大了’^[5]。正是这种短缺，而非战略上彻底取代英伟达的意图，才是其公开宣称的驱动力——OpenAI的算力需求已超出通用GPU市场按自身节奏所能提供的范围。Greg Brockman从经济角度阐述了回报，称之为‘真正的性能提升……在每瓦性能和每美元性能方面’^[4]，多家媒体报道称效率提升使推理成本降低了约50%^[4]。

但其范围比表述有时暗示的要窄。Jalapeño仅处理推理任务，不涉及训练，而OpenAI的整体算力堆栈至少到2027年仍依赖英伟达GPU（及其他供应商）进行训练和大量推理工作负载^[1]。有报道将该芯片描述为‘向英伟达定价权发出警告’^[6]，这比‘英伟达杀手’更为准确：Jalapeño为OpenAI提供了在谈判中可引用的可信替代方案，并对冲GPU供应限制风险，但并未真正取代其从英伟达采购的大部分产品。这是一种选择权，而非独立性。

即使按照OpenAI自己的说法，Jalapeño的近期影响也很有限。公司描述称，2026年底将以极小规模启动初步部署，更大规模的部署要到2027年才有望实现^[1]，而第二代芯片已在高级开发中，预计很快流片^[5]——这表明OpenAI的迭代速度远超其规模化出货能力。

线上质疑集中于2027年的量产目标是否现实，原因在于持续的HBM内存短缺，以及英伟达在先进封装和晶圆厂产能上的牢固控制，任何竞争性芯片项目都必须依赖这些资源。这种质疑还伴随着更深层的结构性问题：当英伟达真正的护城河可能是其软件与网络生态系统（如CUDA、互联技术、工具链），而不仅仅是芯片能效时，一款每瓦性能更强的ASIC能否真正撼动其地位？无论Jalapeño的基准数据在独立审查下如何变化，都无法回答这个问题；它们只是提高了赌注——OpenAI能否真正实现其所承诺的大规模制造与部署。