蒜粒小编2026/10/13 09:32:05

技术交流采购避坑

微软把Maia扩到多吉瓦级，自研推理卡开始比每瓦token

微软在官方博客（10 月 12 日）宣布，把 Azure Maia 自研加速卡扩到多吉瓦级部署，2027 年起 Maia 会成为微软产品与服务的主要推理系统。 两代产品的分工官方也写清楚了：Maia 200 已经在生产环境跑微软自家的 Copilot 和 MAI 模型，官方给出的数字是内置 AI 场景下每瓦 token 比主流 GPU 基础设施高 1.7 倍。Maia 300 是面向长上下文、内存密集和解码密集推理的第三代，官方预期每兆瓦的 token 产出比主流 GPU 系统高 40%，在 96 卡整机架配置下，机架级 token 吞吐最高是 Maia 200 的 7 倍，2027 年开始量产部署。硬件口径官方也给到了：8 组 HBM4、18 TB/s 峰值带宽、950 瓦 TDP，单机架 96 卡、27.6 TB HBM。 对租算力的人来说，意义在于比价口径可能要换。当自研推理卡开始用「每瓦能出多少 token」讲故事，采购和报价迟早会用同一套指标，只盯卡数和显存价格会越来越不准。 能先做的两件事：一是把需求描述从「我要几卡几 G 显存」改成「多大上下文、每秒要出多少 token、功耗预算多少」；二是把 2027 年 Maia 量产后的公开推理价格当锚点，用来判断 GPU 报价是否合理。