英伟达发布定制HBM技术NVHBM,通过集成内存控制器至HBM基础裸片,实现带宽较HBM4E提升30%、功耗降低15%,并释放主芯片25%空间。亚马逊Annapurna Labs为首个合作伙伴,该技术旨在通过标准化方案加速定制AI芯片开发,而非取代通用HBM。
NVHBM核心架构:内存控制器集成与性能指标
NVHBM采用定制的HBM基础裸片(Base Die),其核心创新在于将内存控制器集成到HBM基础裸片中,而非像传统HBM架构那样将控制器放置在XPU芯片上。这一设计基于英伟达未来GPU所采用的相同技术,旨在解决传统架构中内存控制器占用XPU宝贵计算空间的问题。
根据英伟达公布的数据,该新设计带来了以下具体性能提升:
- 带宽提升:单个NVHBM堆栈提供的带宽比标准HBM4E高出30%。
- 功耗降低:整体功耗降低了15%。
- 空间释放:为主计算芯片带来了最多25%的额外空间。
在AI基础设施部署成千上万芯片的场景下,这些累积效应将产生显著影响。

生态合作:亚马逊Annapurna Labs与NVLink Fusion扩展
NVHBM并非旨在取代通用HBM产品,而是英伟达专门向潜在合作伙伴提供的基础组件,作为围绕NVLink Fusion更广泛合作的一部分。亚马逊的Annapurna Labs将成为首个与NVLink Fusion合作开发NVHBM技术的公司,双方致力于共同打造下一代半定制AI基础设施。
通过这一合作,NVLink Fusion生态系统得以进一步扩展,为XPU(异构计算单元)带来更高的内存性能和效率。这种合作模式允许合作伙伴利用NVHBM技术,结合自身的定制需求,构建更具竞争力的AI解决方案。

标准化实施与供应链影响
英伟达正在建立一个标准的NVHBM实现方案,该方案允许由多个提供商提供组件。这一标准化举措具有明确的工程和商业意义:
- 减少工程工作量:降低了跨供应商封装集成和认证所需的复杂度和工作量。
- 缓解供应瓶颈:通过多供应商支持,减少了单一来源带来的供应链风险。
- 加速上市路径:为NVLink Fusion客户提供了更快将定制AI芯片推向市场的路径。
这种灵活的选择机制,使得NVHBM成为连接标准HBM硬件与定制化AI芯片需求之间的桥梁,既保留了HBM的高性能特性,又通过标准化接口降低了集成门槛。
关键判断与限制
- 适用范围:NVHBM主要面向需要高带宽、低功耗且希望优化XPU芯片面积的AI基础设施定制场景,特别是与NVLink Fusion生态绑定的合作伙伴。
- 技术边界:目前数据基于英伟达官方声明,具体性能表现需结合实际硬件部署验证;带宽提升30%、功耗降低15%及空间释放25%为理论或实验室数据,实际量产产品可能存在差异。
- 不确定性:多供应商标准化方案的具体实施时间表、各供应商的技术成熟度以及最终市场采纳率仍待观察。