NVIDIA NVLink Fusion, 차세대 AI 인프라에 NVHBM 지원
NVIDIA NVLink Fusion Brings NVHBM to Next-Generation AI Infrastructure
AI 공장은 점점 더 큰 모델과 복잡한 추론 작업을 지원해야 한다. 이를 위해 하이퍼스케일러와 AI 네이티브 기업들은 맞춤형 AI 가속기(XPU)를 개발하고 있으며, 이러한 가속기를 대규모로 배포하기 위해서는 고대역폭 메모리(HBM)가 필요하다.
고대역폭 메모리(HBM)는 AI 작업의 컴퓨팅 수요를 충족시키기 위해 필수적이다.
원문 출처
NVIDIA Technical Blog