Rohan Paul

萨提亚·纳德拉正式宣布：微软将把自研 Maia 芯片作为其产品的主要推理系统，并扩展到多个吉瓦规模。 这将降低对英伟达硬件的依赖；Maia 300 也意在替换 AMD 芯片，而不只是英伟达。核心卖点是：每兆瓦产出的 token 数比领先的 GPU 系统高 40%。 整机架把 96 个加速器塞进 167kW，配 27.6TB HBM；微软称其 token 吞吐可达 Maia 200 机架的最高 7 倍。 转向将从 2027 年的 Maia 300 开始——这是面向长上下文推理、低延迟聊天与多步智能体任务的第三代加速器。 前代 Maia 200 已在生产流量中服役，包括 Microsoft Copilot；微软称 Maia 200 每瓦产出的 token 可比领先 GPU 基础设施高出最多 1.7 倍。 Maia 300 瞄准的是数据搬运成本——微软认为，如今它比裸算术更限制大规模推理系统。 Maia 300 采用「多 chiplet」设计。传统芯片是一整块硅，什么都干：算（compute）、管内存（memory controller）、跟别的芯片说话（I/O）。Maia 300 则把这些活拆到若干更小的硅片（chiplet）上，封装在一起当一颗芯片用。这样计算 chiplet 上就能留给真正跑 AI 运算的部分更多空间，而且每个 chiplet 可以用最适合其职责的制程来造。 每颗芯片配 8 堆 HBM4，峰值带宽 18.0 TB/s，TDP 950W，并用片上 SRAM 作暂存，减轻内存压力。 对增强型 MXFP4 等低精度格式的支持，会缩小 KV cache——那种随每个 token 增长的注意力状态存储——从而在相同功耗预算下装得下更长的上下文。 供应才是更硬的约束：据报微软一直在与台积电谈判，希望 2027 年交付超过 30 万颗 Maia 300；这个数字仍在谈，还不是已签的采购订单。