本周,微软在人工智能硬件领域迈出关键一步。10月12日,该公司在OCP全球峰会上正式发布第三代AI加速器Maia 300。这款芯片专为推理工作负载设计,重点优化能效与内存性能,以应对AI代理和推理模型日益增长的需求。

架构革新与性能指标

Maia 300采用芯粒(chiplet)架构,将计算、内存控制器和I/O功能分离。计算芯粒基于台积电先进的N2P工艺,其他部分则采用更具成本效益的工艺节点。每个加速器配备八个HBM4内存堆栈,提供288GB容量和每秒18TB带宽,较上一代Maia 200分别提升33%和2.5倍。尽管热设计功耗升至950瓦(Maia 200为750瓦),但微软声称其每兆瓦产生的令牌数比领先GPU系统高出40%。

在全机架配置中,单个机架容纳96个加速器,功率约167千瓦,提供27.6TB总HBM容量和每秒1.7PB聚合内存带宽。微软表示,该配置的令牌吞吐量是Maia 200机架的七倍。网络方面,Maia 300支持每秒3.2TB双向带宽,通过两层以太网架构可扩展至支持12,288个加速器的超级集群。

从实验走向规模化部署

Maia 300的设计直接源于Maia 200的实战反馈。Maia 200已于今年早些时候投入生产,目前为Microsoft Copilot、GitHub Copilot及公司自有模型提供算力,并将在年底扩展至更多服务。微软云和AI集团执行副总裁Scott Guthrie表示,公司计划从2027年开始将Azure Maia系列扩展至千兆瓦级部署,使其成为微软产品和服务的主要AI推理系统。

这一战略旨在突破数据中心的“功率墙”。随着电力和冷却成为扩张瓶颈,Maia 300通过优化每瓦特电力、每一美元成本和每一字节内存的效率,试图在长上下文推理和多步代理任务中实现更优的经济性。首席执行官Satya Nadella称,这是微软迄今为止在定制硅芯片方面最大的赌注。

供应链博弈与行业影响

尽管野心勃勃,Maia系列短期内不会完全取代外部硬件。分析师估计,到2027年初,内部芯片可能仅占微软AI加速器支出的约10%。微软仍需大量采购英伟达和AMD硬件,以确保软件兼容性和运营成熟度。Maia 300预计直到2027年才会进入生产工作负载。

然而,这一举动标志着超大规模厂商对供应链掌控力的增强。亚马逊、谷歌和Meta等巨头多年来自研定制芯片,而微软此次特别强调推理经济学和机架级集成。通过降低推理成本,微软不仅能提升自身利润率或提供更具吸引力的客户定价,还能减少对英伟达的依赖,从而转移部分议价权。

目前,Maia 200已在美国、欧洲和澳大利亚 rollout,支持包括OpenAI模型在内的多种应用。这些运营数据为Maia 300的完善提供了基础。尽管关于能效提升40%等声明尚待独立验证,但微软正通过软硬件协同设计,加速云计算领域向专用AI硬件的转变。公司计划在下个月的Ignite大会上分享更多技术细节。