NVIDIA와 AWS, AI 대규모 생산을 위한 협력 강화
NVIDIA and AWS Collaborate to Bring AI to Production at Scale
NVIDIA는 Amazon Web Services(AWS)와 협력하여 AI 시스템을 대규모로 구축하는 데 필요한 저지연 추론, 빠른 벡터 검색, 강력한 GPU 가격 성능을 지원하는 인프라를 제공한다. Amazon EC2 G7 인스턴스는 NVIDIA RTX PRO 4500 Blackwell Server Edition GPU를 탑재하여 AI, 그래픽, 비디오 및 데이터 분석 작업을 위한 성능을 제공하며, G6 인스턴스 대비 최대 4.6배의 AI 추론 성능과 2.1배의 그래픽 성능을 제공한다. 또한, NVIDIA cuVS 라이브러리를 통해 Amazon OpenSearch Serverless에서 GPU 기반 벡터 인덱싱을 기본으로 설정하여 벡터 데이터베이스 구축을 10배 빠르게 할 수 있다. AWS는 NVIDIA GB300에 대한 Exemplar Cloud 상태를 달성하여 AI 교육 작업에 대한 성능 기준을 충족했다.
원문 출처
NVIDIA Blog