昊梵体育网

平时我们用AI出现卡顿、回复慢,根源大多不是AI模型问题,而是算力芯片跟不上。8

平时我们用AI出现卡顿、回复慢,根源大多不是AI模型问题,而是算力芯片跟不上。8月25日,OpenAI正式公布和博通联手打造的全新AI芯片Jalapeño。

这款芯片主打AI日常运行推理工作,我们聊天、生成内容、使用AI功能,全都靠它支撑。在多项主流大模型测试中,它的省电算力远超英伟达GB200、GB300,同等电量下,能干出对手1.5至1.9倍的工作量,大幅降低运行成本。

最直观的提升是响应速度,它的延迟只有英伟达芯片的28%至59%。同款任务下,传统高端芯片要6秒出结果,这款芯片仅需1.65秒,速度直接翻倍。

它通过优化数据传输、本地缓存数据,从源头减少卡顿损耗。据悉,该芯片今年将小范围试用,2027年全面普及,未来有望彻底改写AI算力行业格局。