- NVHBM单栈带宽相比标准HBM4E最高提升30%，英伟
需要指出的达推是，该技术面向的功耗是未来的定制芯片设计。后续芯片有望接入NVHBM。降面积省单颗芯片节省的英伟功耗累积效应显著，NVHBM并非用来取代通用HBM产品，达推NVHBM比标准商用HBM4E低15%。功耗主芯片计算可用面积最多可增加30%。降面积省NVHBM将控制器下沉至HBM基片后，英伟同时功耗更低、达推
功耗功耗功耗方面，降面积省
8月27日消息，英伟
英伟达已与领先内存厂商完成NVHBM的达推设计与验证。
英伟达同时还向NVLink Fusion合作伙伴提供小型定制PHY物理层IP，功耗亚马逊旗下Annapurna Labs成为首家合作伙伴。占用本可用于计算的宝贵硅面积。供其集成到自有芯片中。
NVHBM的核心设计在于将内存控制器从主芯片转移到HBM堆栈的基片之中。
英伟达宣称，这是一款面向定制AI加速器的定制HBM解决方案。已量产的Vera Rubin机柜级系统并不搭载NVHBM，或在固定功耗预算内部署更多加速器。而是英伟达专门向潜在合作伙伴提供的基础组件。在数千上万颗芯片规模下，主芯片占用面积更小。
Annapurna Labs副总裁Nafea Bshara表示期待通过合作赋能AWS下一代基础设施设计。传统方案将HBM内存控制器集成在主芯片上，可反哺计算单元提升性能，英伟达近日宣布为NVLink Fusion定制芯片生态推出全新组件NVHBM，其下一代Trainium4 AI芯片已支持NVLink Fusion扩展接口， 顶: 86踩: 245
评论专区