微软 Maia 300 发布：单机架 token 吞吐达上代 7 倍

10 月 12 日消息，微软公布下一代自研 AI 加速器 Maia 300，计划 2027 年开始部署。微软称它采用“推理优先架构”，用软件定义数据流把数据留在最需要它的部件附近。

Maia 300 配备八组 HBM4，单芯片峰值带宽 18TB/s，散热设计功耗 950W，计算芯粒采用台积电 N2P 工艺。整机架 96 颗加速器，功率包络 167kW，HBM 容量 27.6TB，聚合带宽 1.7PB/s。微软称其机架 token 吞吐最高可达 Maia 200 的 7 倍，每兆瓦 token 产出比其他领先 GPU 系统高 40%。
上代 Maia 200 已运行在 Microsoft 365 Copilot 等生产负载上，微软称其每瓦 token 产出比领先 GPU 基础设施高 1.7 倍。