Microsoft’s “Clea” Maia 300 Inference XPU Is A Bandwidth Beast

微软公布 Maia 300：288GB HBM4、18TB/s、96 XPU/机架、167kW。

微软在OCP Summit 2026公布代号“Clea”的 Maia 300 推理XPU，目标是降低token推理成本并支撑由大量模型协同的agentic工作负载。该芯片从Maia 200的台积电N3P单片设计转向N2P chiplet，封装内集成多颗计算芯片与多个HBM4堆栈，提供 288GB HBM4 和约18TB/s带宽；内存从全局共享改为计算tile与HBM4 bank按NUMA式成对绑定。ATL 2.0网络配合液冷与更密集机柜，使上百个机柜可组成 12,288 颗加速器的一致域，超过Nvidia、AMD及Google现有公开规模。官方称相对Maia 200机柜，Maia 300的token吞吐提升 7X，每瓦性能提升2.5X；但这些均为原始规格，作者称真实应用表现需待后续论文。

1. 1Maia 300 采用 TSMC 2nm N2P，7 芯片 + 8 HBM4 封装
2. 2HBM 容量 288GB，带宽 18TB/s
3. 3单机架 96 XPU，功耗 167kW

为什么重要　Maia 300 把 HBM 带宽拉到 18TB/s，单机架 96 XPU，直接关系 Azure 推理集群设计与单 token 成本评估。适合　AI 推理集群、XPU 硬件、Azure 云成本与网络拓扑跟踪者

来源

nextplatform.com

发布

2026/10/14