OpenAI新推理系统Jalapeño性能超强，能耗更低

2026-08-26 2 暗号导航联盟

为什么你的AI服务越来越慢越来越贵

你还在为云服务器费用飙升头疼吗？每一次AI调用都在烧钱，每一次用户等待都在流失客户。传统推理方案已经跟不上AI爆发的节奏了，电费、延迟、用户体验三重压力压得你喘不过气。是时候换个思路了。

ñ o由谷歌与博通联合研发，专门针对AI推理场景优化设计。这不是传统GPU的简单迭代，而是从芯片架构到模型的全栈协同设计。硬件负责人理查德·何在发布会上自信表示，这款芯片相比现有顶尖产品实现了非常显著的性能跃升。

在GPT-OSS 120B、R1和Kimi K2.5 1T三大模型测试中，ñ o每瓦处理的AI工作量达到英伟达GB200和GB300的1.5至1.9倍。这意味着同样的电力消耗，你能处理更多的AI任务。更关键的是端到端延迟只有竞品系统的28%到59%，响应速度提升了近乎三倍。

OpenAI 秀肌肉，与博通共研的 Jalapeño 芯片将向英伟达 GB300 发起挑战__OpenAI 秀肌肉，与博通共研的 Jalapeño 芯片将向英伟达 GB300 发起挑战

ñ o的工程师们从一开始就盯上了推理过程中的两大拦路虎：预填充和通信延迟。KV缓存等模型状态被明确存放并保留在芯片本地，系统能根据不同推理阶段智能调配计算、内存和网络资源。数据搬运和通信延迟被降到最低，这才是真正懂AI的工作负载设计。

谷歌计划在2026年底先用小规模的ñ o进行部署，验证实际效果。到2027年，他们会逐步扩大部署规模，让越来越多的服务享受到这款推理芯片带来的性能红利。虽然官方没有透露明年具体会投入多少芯片，但节奏已经很清晰了。

面对这样一款在能效和延迟上都实现突破的推理芯片，你打算如何规划自己的AI基础设施建设？欢迎在评论区分享你的看法，如果觉得这篇文章对你有帮助，别忘了点赞和分享给更多需要的人。