OpenAI自研芯片Jalapeño跑分首秀，推理性能超越英伟达Blackwell

在Hot Chips大会上，OpenAI硬件负责人Richard Ho公布了自研推理芯片Jalapeño的首份公开跑分，这是OpenAI首款芯片在9个月后的首次亮相。这款与博通联合打造的推理芯片，在SemiAnalysis的InferenceX基准测试中，于「每用户token数」和「每千瓦吞吐量」两项关键指标上双双超越英伟达Blackwell系统。

跑分结果：推理效率与能效双领先

具体来看，OpenAI使用SemiAnalysis的公开基准工具InferenceX，在GPT-OSS 120B、DeepSeek R1 670B和Kimi K2等模型上进行了测试。结果显示，Jalapeño在每用户token数上超越了Blackwell，意味着在相同时间内能处理更多用户的请求；而在每千瓦吞吐量上，Jalapeño也实现了领先，表明其能效比更高，单位功耗能完成更多推理任务。

这一成绩对于AI推理市场具有标志性意义。英伟达Blackwell系列一直被视为当前最先进的推理处理器，而OpenAI的定制芯片在核心指标上实现超越，说明为特定模型设计的芯片能够带来显著的性能优势。

定制芯片时代开启

Jalapeño的成功并非偶然。OpenAI与博通合作，针对自身模型的推理需求进行定制优化，这种「为模型造芯片」的思路，与通用型GPU的设计理念形成对比。通用GPU需要兼顾各种工作负载，而定制芯片则可以专注于特定模型的运算模式，从而在效率和性能上实现突破。

这一趋势可能改变AI芯片市场的竞争格局。过去，英伟达凭借通用GPU统治了AI训练和推理市场，但定制芯片的出现，为云计算厂商和大型AI公司提供了新的选择。OpenAI的跑分结果证明了定制路线的可行性，未来可能会有更多公司跟进，推动芯片设计从通用向专用演进。

从编辑视角看，Jalapeño的亮相降低了AI推理的硬件门槛，但更深远的意义在于，它展示了软硬件协同设计的巨大潜力。当芯片能够针对模型优化时，AI系统的整体效率将大幅提升，这也为AI应用的规模化落地提供了新的可能。