Amazon SageMaker HyperPod에서 SkyRL을 이용한 다중 모달 RL 훈련 가속화
Accelerate multimodal RL training with SkyRL on Amazon SageMaker HyperPod
강화 학습(RL) 후 훈련은 언어 모델 에이전트를 구축하는 표준 단계가 되고 있다. Amazon SageMaker HyperPod는 Amazon Elastic Kubernetes Service(Amazon EKS)에서 대규모 머신러닝 작업을 위한 인프라를 제공하며, 클러스터의 노드 건강을 지속적으로 모니터링하고 결함이 있는 노드를 자동으로 교체하여 하드웨어 고장 시에도 클러스터가 중단되지 않도록 한다. SkyRL을 사용하여 Qwen3-VL-8B 비전-언어 모델을 훈련시키면, HyperPod에서의 GRPO 후 훈련을 통해 64개의 미로 평가 세트에서 해결률이 43.75%에서 95% 이상으로 향상된다.
HyperPod의 클러스터 복원력 기능을 통해 하드웨어 고장 시에도 훈련 작업을 중단 없이 진행할 수 있다.
원문 출처
AWS Machine Learning Blog