每颗新 AWS 芯片内部隐藏的内存技术
NVIDIA 此次真正的技术贡献并不仅仅是更多 GPU——而是对内存工作方式的重新设计。NVHBM 将内存控制器完全从计算芯片中移出,转移到 HBM 内存堆栈的基底芯片中,从而在处理器上腾出更多硅片面积用于计算逻辑,同时提升内存带宽并降低功耗[1]。NVIDIA 表示,与标准 HBM4E 相比,该技术可实现高达 30% 的内存带宽提升、15% 的 HBM 功耗降低,以及最多 25% 的可用计算芯片面积增加[1]。亚马逊的芯片设计部门 Annapurna Labs 是首个与 NVIDIA 合作开发该技术的外部合作伙伴——值得注意的是,Annapurna 正是设计 AWS 自研 Trainium 处理器的团队。
这种重叠正是关键所在。对于 Trainium4,NVHBM 技术与 NVLink Fusion 互连技术并行部署,后者是 AWS 在 re:Invent 2025 上首次公布的[2]。NVLink Fusion 芯粒可将最多 72 颗定制 ASIC 以每颗 3.6 TB/s 的速度实现全互连,通过基于下一代 NVLink 6 的 Vera-Rubin NVLink 交换托盘,实现高达 260 TB/s 的总扩展带宽[2],其速度约为 PCIe Gen5 的 28 倍[3]。实际上,AWS 的自研芯片与 NVIDIA 的 GPU 正被接入同一物理架构,而非作为争夺机架插槽的独立产品线相互竞争。


