NVIDIA NVLink Fusion과 NVHBM 고대역폭 메모리 기술 확장
NVIDIA NVLink Fusion Expands With NVHBM Custom High-Bandwidth Memory
NVIDIA는 NVLink Fusion을 NVHBM이라는 차세대 고대역폭 메모리 기술로 확장했다. NVHBM은 메모리 컨트롤러를 HBM 기본 다이에 통합하여 최대 30% 더 높은 메모리 대역폭과 15% 낮은 HBM 전력 소비를 제공하며, XPU 컴퓨트 다이에서 최대 25%의 공간을 절약한다. 아마존의 Annapurna Labs는 NVHBM 기술을 활용하여 AI 워크로드의 성능과 효율성을 향상시키기 위한 협력 작업을 진행할 예정이다.
NVHBM은 최대 30% 더 높은 메모리 대역폭을 제공하여 AI 인프라의 성능을 향상시킬 수 있다.
원문 출처
NVIDIA Blog