NVIDIA Vera CPU, 단일 CPU로 에이전트 속도와 와트당 에이전트 처리량 동시 확보
Vera Delivers the Best of Both Worlds: Highest Throughput and Fastest Agents
AI 에이전트는 검색, 데이터베이스 조회, 코드 작성·테스트 등 단계마다 CPU를 사용하며, AI 팩토리는 전력 한계 안에서 더 많은 에이전트를 빠르게 처리해야 한다. NVIDIA는 Vera CPU 하나로 빠른 에이전트 성능과 와트당 높은 처리 용량을 함께 제공한다고 밝혔다. NVIDIA는 100메가와트 데이터센터 비교에서 단일 Vera CPU가 가장 빠른 x86 CPU 및 가장 에너지 효율적인 x86 CPU보다 우수하다고 설명했다. 가장 빠른 x86 CPU 대비 와트당 에이전트 수는 1.6배, 가장 에너지 효율적인 x86 CPU 대비 에이전트 속도는 2배 빠르다고 밝혔다. 파트너 사례로 Perplexity는 에이전트 코딩 작업을 기존 CPU 대비 1.5배 빠르게 실행했다고 밝혔으며, DeepInfra는 최고의 x86 프로세서 대비 에이전트 오케스트레이션에서 최대 2.2배 속도를 기록했다. Daytona는 1,000개의 에이전트 샌드박스를 10.8초 만에 가동했으며, x86에서는 88.4초가 걸렸다고 밝혔다.
Daytona가 Vera에서 1,000개 에이전트 샌드박스를 10.8초에 가동한 반면 x86에서는 88.4초가 걸렸다는 수치는, 에이전트 워크로드 인프라를 설계할 때 CPU 선택이 샌드박스 기동 시간에 직접 영향을 준다는 점을 보여준다.
원문 출처
NVIDIA Blog