SageMaker SDK v3로 엣지 카메라별 컴퓨터 비전 모델을 대규모 관리하는 파이프라인
Fleet-wide computer vision lifecycle at the edge with SageMaker SDK v3
AWS가 공장 라인마다 여러 카메라에 각각 맞춘 컴퓨터 비전 모델을 대규모로 학습·평가·배포하는 샘플 파이프라인을 공개했다. 이 구조는 수천 개 모델을 사람이 일일이 관여하지 않고 운영해야 하는 품질 검사 환경의 문제를 다룬다. 이 샘플은 2023년 시리즈의 패턴을 최신 Amazon SageMaker Python SDK v3에 맞춰 갱신한 것으로, 지원 중단된 SageMaker Edge Manager 대신 Amazon SageMaker Neo로 엣지 최적화를 수행한다. 카메라 ID로 파라미터화된 13단계 SageMaker Pipeline이 카메라마다 이상 탐지용 합성곱 오토인코더와 결함 분류용 ResNet18 분류기를 함께 학습하고, 각 모델은 ONNX로 내보낸 뒤 평가와 품질 게이트를 통과해야 한다. 통과한 모델은 대상 엣지 장치용으로 SageMaker Neo 컴파일을 거쳐 SageMaker Model Registry에 등록된다. 동시 실행은 Amazon SQS FIFO 큐, AWS Lambda, AWS Step Functions, DynamoDB 세마포어로 제어되어 재학습 요청이 한꺼번에 몰리지 않고 일정한 속도로 처리된다. 완료와 실패 알림은 Amazon SNS로 전달되며, 전체 파이프라인을 합성 데이터로 한 번 돌리는 데 약 $0.07의 컴퓨팅 비용이 든다고 기사는 밝히고 있다. 배포는 AWS CDK로 수행하며 샘플 코드는 aws-samples GitHub 저장소에 공개되어 있다.
SageMaker Neo로 컴파일된 모델이 DLR 런타임에서 로드되는 공유 라이브러리 형태로 S3에 저장되므로, 카메라별 재학습 결과를 장치 배포 단계까지 자동으로 이어 붙일 수 있다.
원문 출처
AWS Machine Learning Blog