来源核查:

发生了什么

微软与AMD于10月12日公布了两种不同的机架级AI基础设施方案。微软称,一套Maia 300机架在167千瓦功耗范围内集成96个加速器,提供27.6TB HBM容量和1.7PB/s聚合HBM带宽,并计划于2027年开始生产部署。AMD则把Helion定位为基于OCP标准的开放参考设计,提供纯CPU及CPU/GPU混合配置。AMD表示相关配置正与合作伙伴共同开发,计划于2026年11月推出;产品页列出的上限因配置而异,可达32,768个CPU核心和16个MI350P GPU。以上规格、性能描述、时间表及预期收益均来自供应商,不能视为可直接比较的基准测试,也不能独立证明成本、供应情况或生产环境结果。

商业影响 · 分析

采购单位正在从单个加速器变成完整运行系统。比较架构前,应拆分工作负载:智能体协调与工具执行、模型推理、数据库与存储、网络、安全控制以及冷却。随后以每机架小时、每千瓦时完成的有效工作量衡量,并计入利用率、排队时间、审核工作,以及失败或重复任务。以CPU为主的设计可能适合大量轻量智能体并在别处调用模型;混合机架则可能适合把本地推理与支持服务放在一起的企业。两者都不会天然更便宜。芯片价格、峰值吞吐量和供应商的“每瓦”指标无法反映闲置容量、集成工作量、软件可移植性,或机房是否能为机架供电和散热。选择系统边界前,先用一项可追踪工作负载测量平均与峰值需求。

接下来关注什么

后续应关注已确认的出货和生产日期、各合作伙伴的配置与价格、典型利用率下的实测功耗、冷却和网络要求、软件支持、故障隔离,以及工作负载在不同系统间迁移的能力。一种情景是,开放机架设计让采购方更贴近变化中的智能体负载来配置CPU与GPU容量;另一种情景是,集成成本和低利用率抵消了表面的灵活性。纵向协同设计的系统可能提高云运营商的密度,但客户仍需要服务水平证据和透明的工作负载定价。应把两项发布视为需要用真实负载轨迹测试的架构,而不是总成本更低的证明。

一手来源

企业声明均注明来源。分析单独列出;未来关注点是待观察的问题,并非确定结果。

相关专题