关键点:
OpenAI 与博通分享了关于 Jalapeño 的新细节,这是一款专为 AI 工作负载打造的定制推理处理器。
该芯片指向一项更广泛的战略,而不仅仅是减少对英伟达的依赖。
随着基础设施成为竞争核心,主要 AI 公司正在纷纷构建定制芯片。
OpenAI 与博通合作开发的 Jalapeño 芯片引起了广泛关注,因为英伟达至今仍是 AI 热潮背后主要的硬件供应商。该处理器针对推理阶段,即模型训练完成后开始响应用户请求的环节。训练创造了模型,而推理则驱动着日常交互,定义了用户体验。这一区别至关重要,因为这些交互以巨大的规模发生。每一次在速度、功耗或网络连接方面的提升,都能降低成本,同时让 AI 系统响应更迅速。
此举也表明 OpenAI 正在借鉴苹果的策略。苹果通过自行设计关键硬件和软件,而不是围绕外部处理器调整系统,从而获得了对产品的强大掌控力。OpenAI 似乎正将这一逻辑应用于 AI。一款围绕自身模型打造的芯片,可以让公司更有效地控制 ChatGPT 及未来系统的性能表现。不过目前仍处于早期阶段。OpenAI 并未表示即将大规模部署,该芯片应被视为一项长期基础设施战略的开端。
短期内英伟达并无理由恐慌。其处理器仍支撑着当今大部分 AI 基础设施,且整个行业的需求依然强劲。但 OpenAI 的芯片计划符合一种更广泛的趋势。谷歌已开发了张量处理单元,亚马逊推出了 Trainium 和 Inferentia,微软投资了 AI 芯片,Meta 也在追求定制加速器。共同的结论十分明确:随着 AI 对这些公司日益重要,没有哪家企业愿意完全依赖另一家公司的硬件路线图。
苹果转向自研处理器并未在一夜之间摧毁英特尔。然而,随着苹果用自研组件取代外部部件,它确实获得了对定价、性能和产品方向的更多控制力。类似的变化可能重塑 AI 基础设施。OpenAI 还表示,在芯片开发过程中,其自身模型帮助加速了部分工程环节,从而在 AI 软件与未来硬件之间形成了反馈循环。随着芯片设计日益复杂,这一循环可能变得更加重要。即使模型排名发生变化,掌控更多底层机器的公司仍可能获得优势。
从苹果身上可以汲取的更广泛教训是:系统集成可以成为一种长期的护城河。OpenAI 的 Jalapeño 计划表明,它希望不仅掌控模型本身,还要掌控提供这些模型的系统。