微软公布自研AI芯片Maia 300:主打多吉瓦部署与智能体推理
微软正式公布新一代自研AI推理平台Maia 300,计划于2027年进入量产并在Azure中扩展至多吉瓦级部署。该芯片专为长上下文推理、低延迟对话及多步骤智能体工作负载设计,采用台积电N2P小芯片与HBM4高带宽内存。微软称其每兆瓦Token产出提升40%,将成为支撑Copilot等业务的主力系统。
核心要点
- 专为AI推理设计:Maia 300是微软下一代AI推理平台,重点针对长上下文推理、低延迟对话交互与多步骤智能体(Agent)工作流进行深度优化。
- 先进封装与内存规格:芯片基于台积电TSMC N2P先进制程打造计算小芯片,搭载8组HBM4堆栈,峰值带宽达18.0 TB/s,额定功耗为950W。
- 能效与吞吐量突破:微软官方表示,Maia 300每兆瓦可处理的Token数量提升40%,96加速器机架规模下的Token吞吐量最高可达上一代Maia 200的7倍。
- 吉瓦级战略部署:萨提亚·纳德拉称其为微软在自研芯片上迄今最大的战略投入,定于2027年量产并推进至多吉瓦(multi-gigawatt)规模部署。
详细分析
突破电力与成本瓶颈:全面转向“推理优先”架构
随着微软将AI能力全面整合至Copilot、Teams等核心业务,大规模模型推理的能耗与运营成本成为亟待解决的核心难题。微软目前的应对方案是在持续采购商用GPU的同时,全面发力底层自研硬件。Maia 300确立了“推理优先”(inference-first)的设计定位,专注解决复杂长文本理解、实时低延迟对话交互以及多步骤AI智能体的计算负载。该芯片旨在直接承担微软生态内大规模AI服务的常态化推理需求,从底层降低产品服务化过程中的边际计算成本。
台积电N2P小芯片与HBM4高带宽互连
在底层架构上,Maia 300采用了高度模块化的多小芯片(multi-chiplet)结构。其计算小芯片由台积电N2P工艺打造,并在物理层面分离了计算核心、内存控制单元与I/O模块,兼顾了先进制程的制造良率与架构扩展性。针对大模型推理中普遍存在的“内存墙”制约,芯片集成了8组HBM4内存堆栈,提供高达18.0 TB/s的峰值内存带宽,整卡额定功耗为950W。同时,Maia 300原生支持MXFP4等新一代超低精度数据格式,大幅缩减了运行时的内存占用与带宽消耗,进一步放大了能效表现。
机架级系统扩展与多吉瓦规模蓝图
除了单芯片的规格跃升,Maia 300更强调机架级的系统协同。系统采用单机架集成96个加速器的整机柜设计,使得单机柜的整体Token处理吞吐能力最高达到Maia 200机架的7倍。按照微软规划,Maia 300将于2027年正式投产,届时Azure数据中心将以多吉瓦为规模等级快速扩容Maia集群,最终将其打造成微软主力产品线背后最核心的AI推理基础设施基座。
行业影响
Maia 300的发布展现了头部云计算与AI巨头进一步掌控硬件技术栈的战略意图。一方面,推进自研专用推理芯片有助于微软在维持多芯片策略的同时,逐步减轻对第三方商业GPU供应商的单一依赖,从而增强供应链自主权并压低长周期推断成本。另一方面,Maia 300将HBM4、小芯片分离架构与超低精度格式融合于吉瓦级数据中心设计,为面向智能体时代的下一代超大规模AI算力集群提供了极具参考价值的工程范式。
常见问题
微软Maia 300主要服务于哪些具体应用?
Maia 300是专门面向AI推理负载打造的硬件平台,优先支持微软自身的Copilot、Teams等产品,特别针对长上下文理解、低延迟人机对话以及复杂多步骤Agent任务提供专属算力支持。
相比传统方案,Maia 300在硬件参数上有何特色?
Maia 300采用台积电TSMC N2P制程的计算小芯片,配备8组HBM4内存堆栈,峰值带宽达18.0 TB/s,额定功耗950W,支持MXFP4低精度格式,并以96加速器机架形态交付。
Maia 300预计将于何时正式投入生产?
微软官方披露,Maia 300计划于2027年进入量产阶段,随后将在Azure云数据中心展开多吉瓦级规模部署,成为微软自研AI算力的核心主力。
