NVIDIA Vera Rubin NVL72, AI 에이전트 작업에서 30배 높은 효율성 달성
Up to 30x More Work Per Watt: NVIDIA Vera Rubin NVL72 Sets a New Efficiency Standard for AI Agents
NVIDIA Vera Rubin NVL72 시스템은 에이전트 작업에서 NVIDIA GB300 NVL72보다 메가와트당 최대 30배 높은 처리량을 제공한다. 에이전트 AI 작업은 단순한 채팅 요청보다 15배 더 많은 토큰을 소모하며, 이는 다양한 데이터베이스 쿼리와 모델 평가를 포함한 복잡한 작업 흐름에서 발생한다. Vera Rubin NVL72는 GB300 NVL72보다 35배 낮은 토큰 비용으로 에이전트를 지속적으로 운영할 수 있도록 지원한다.
Vera Rubin NVL72는 메가와트당 최대 30배 높은 처리량을 제공하여 전력 제약이 있는 AI 공장에서 에이전트 작업의 효율성을 크게 향상시킨다.
원문 출처
NVIDIA Blog