Amazon SageMaker AI에서 Hugging Face 모델 배포하기
Deploy Hugging Face models on Amazon SageMaker AI with coding agents
Hugging Face 모델을 Amazon SageMaker AI에 배포하려면 적절한 서빙 컨테이너 선택, AWS 리전의 현재 이미지 태그 확인, 모델의 메모리 요구에 맞는 인스턴스 유형 선택 등의 결정을 내려야 한다. 또한, 자동 확장을 설정하고 Amazon CloudWatch 경고를 설정하여 사용자가 문제를 발견하기 전에 조치를 취해야 한다. 이 과정에서 Kiro와 Claude Code와 같은 코딩 에이전트를 사용하면 반복 가능한 작업을 자동화할 수 있으며, Hugging Face Skills를 설치하여 실시간 엔드포인트를 생성할 수 있다.
Hugging Face Skills를 사용하면 AWS Deep Learning Containers 카탈로그에서 적절한 서빙 컨테이너를 선택하고, 실시간 엔드포인트를 자동으로 설정할 수 있다.
원문 출처
AWS Machine Learning Blog