SAGE-CP: 경량화된 VLM 앙상블의 경로 조건 실패 해결
SAGE-CP: When Marginal Coverage Hides Route-Conditional Failures in Adaptive VLM Ensembles
SAGE-CP는 적응형 VLM 앙상블에서 쉬운 이미지에서 조기 종료하고 어려운 이미지를 상승시키는 방식으로 계산 비용을 절감한다. 이 방법은 경로의 유효성을 보장하면서도 개별 경로에서 심각한 실패를 초래할 수 있는 문제를 해결하기 위해 개발되었다. SAGE-CP는 개발 데이터에서 라우터를 학습하고, 모든 라우팅 선택을 고정한 후, 조기 종료와 상승된 입력에 대해 반환된 점수를 별도로 보정한다. 이 과정에서 10개의 벤치마크와 4개의 고정된 VLM을 사용하여 SAGE-CP는 평균 최악 경로 커버리지를 0.623에서 0.887로 증가시키고, 평균 경로 커버리지 격차를 0.324에서 0.025로 줄였다. 또한, SAGE-CP는 배치-원 지연 시간을 58.8%에서 63.4%까지 줄이고, GPU 에너지를 55.7%에서 57.5%까지 절감하였다.
SAGE-CP는 경로 수준의 신뢰성을 유지하면서도 70.6% 적은 소스 호출로 0.900의 마진 커버리지를 달성한다.
원문 출처
arXiv cs.LG (머신러닝)