NVIDIA, AI 팩토리 관측을 위한 AIOps 플랫폼 Minerva 공개
NVIDIA Unveils Minerva to Bring End-to-End Observability for AI Factories
NVIDIA가 AI 팩토리의 인프라와 AI 워크로드 텔레메트리를 통합 분석하는 AIOps 플랫폼 Minerva를 출시했다. 문제를 더 일찍 찾아내 GPU 가동률과 AI 팩토리 생산성을 높이는 것이 목표다. Minerva는 GPU, 네트워킹, 스토리지, 스케줄러, 워크로드의 신호를 연결해 GPU, SuperNIC, 스위치, 케이블과 그 위에서 실행되는 작업을 매핑하는 동적 지식 그래프를 만든다. 지도 학습과 비지도 학습으로 시간당 수십억 개의 데이터 포인트를 분석해 정상 동작을 학습하고, 처음 보는 이상 징후를 탐지하며, 발생 중인 장애를 예측하고, 토폴로지를 기준으로 관련 이벤트를 묶는다. 경고가 쏟아지는 대신 가능성 높은 근본 원인을 담은 하나의 인시던트로 정리하며, 기본 제공되는 AI 어시스턴트로 실시간 텔레메트리에 근거한 자연어 질의와 조치 권고를 받을 수 있다. 운영자가 직접 수정을 적용하거나 인프라 API와 외부 시스템을 통해 자동화를 연결할 수도 있다. 기사에 따르면 Minerva는 작업 중단 사이의 간격을 늘리고, 장애 복구 시간을 단축하며, 중요한 경고만 남겨 인사이트를 높이는 것을 핵심 지표로 삼는다. IREN의 CTO Denis Skrinnikoff는 네트워크, GPU, 작업을 한 화면에서 보게 되어 문제 해결보다 사전 유지보수에 집중할 수 있게 되었다고 말했다. Jio, Lambda, Tesla 등이 도입을 계획하고 있으며, Dell Technologies, Lenovo, Supermicro도 자사 AI 팩토리 운영 포트폴리오에 Minerva를 포함할 예정이다.
GPU 수천 개 규모의 클러스터에서 느려진 학습 작업을 개별 구성요소(예: 평소보다 뜨거운 GPU, 부하 시 성능이 떨어지는 NVMe 드라이브)까지 추적하는 방식은 대규모 인프라 운영자에게 실무적으로 의미가 있다.
원문 출처
NVIDIA Blog