NVIDIA近日发布NVHBM自定义基础芯片内存架构,为定制AI加速器和XPU提供新的集成方案。该架构与NVLink Fusion互连及MGX机架级平台协同工作,旨在弥合定制芯片与NVIDIA现有扩展网络技术之间的差距。 首个客户与产品路线 亚马逊Annapurna Labs成为NVHBM的首个客户,其Trainium4是首个支持NVLink Fusion的Trainium代际。亚马逊Annapurna Labs副总裁Nafea Bshara表示:"NVHBM代表了推进高带宽内存性能和效率的新架构方法。"这一合作为AWS的AI加速器发展提供了底层架构支持。 技术架构与集成能力 NVLink Fusion使用专用chiplet,允许定制XPU直接接入第六代NVLink扩展结构。该设计将加速器整合为单一一致的内存和计算域,支持机架内所有加速器的统一协作。这种架构方法为高带宽内存性能提供了新的可能性。 对存储选型的影响 从系统集成角度看,NVHBM架构为AI基础设施的内存层次设计提供了新的选择。该方案支持定制芯片与NVIDIA平台的无缝对接,对于构建异构计算系统具有参考价值