OpenAI称Jalapeño在两项关键AI指标上超越Nvidia GB300

关键要点

OpenAI表示，其自研芯片Jalapeño在功耗为700瓦的情况下，单位功率吞吐量和响应速度均优于Nvidia GB300，计划于2026年晚些时候部署，以降低成本和加快响应速度。

这款700瓦的推理芯片旨在降低数据中心成本，同时更快地服务AI模型。

Jalapeño并非为模型训练而设计，也未与Nvidia更新的Vera Rubin系列进行对比测试。

OpenAI基准测试

OpenAI表示，其自研处理器Jalapeño在单位功耗下的AI工作负载测试以及响应速度方面，均优于Nvidia GB300。OpenAI芯片负责人Richard Ho指出，Jalapeño兼具高吞吐量和低延迟，能让客户选择优先考虑低成本或更快响应的模型。Ho称，Jalapeño是与博通联合开发的，在700瓦功耗下实现了上述测试结果，而功耗是数据中心的主要成本之一。

Nvidia相关背景

此次对比存在明显局限性。Jalapeño未与Nvidia已开始出货的更新一代Vera Rubin系列进行测试，且OpenAI的芯片专为推理而非模型训练设计。Nvidia仍是OpenAI的关键供应商。OpenAI也使用Cerebras Systems的技术处理部分推理工作负载，尤其是较小模型，而Ho表示Jalapeño能处理更大规模的模型。公开测试中，Jalapeño使用了OpenAI的一个较小开源模型，以及DeepSeek和Moonshot AI的模型，在Moonshot AI较大的Kimi模型上展现出更明显的优势。第二代Jalapeño进展顺利，预计未来几个月内流片，同时OpenAI已开始第三代芯片的概念设计。该芯片是OpenAI于6月24日与博通联合宣布的成果，当时双方表示Jalapeño借助OpenAI的模型，在九个月内从设计阶段进入制造流片阶段，这是第一代产品。