CARPRT: 클래스 인식 제로샷 프롬프트 재가중 기법
CARPRT: Class-Aware Zero-Shot Prompt Reweighting for Black-Box Vision-Language Models
CARPRT는 클래스 레이블에 따라 프롬프트의 가중치를 조정하여 제로샷 이미지 분류의 정확성을 높이는 방법이다. 기존의 방법은 모든 클래스에 대해 동일한 가중치 벡터를 사용하지만, CARPRT는 각 클래스에 대해 프롬프트의 클래스 특정 관련성을 반영하여 가중치를 조정한다. 이 방법은 이미지-텍스트 관련성 점수를 평균내어 클래스별 가중치를 도출하며, 표준 이미지 분류 벤치마크에서 기존 방법보다 우수한 성능을 보인다.
CARPRT는 프롬프트-클래스 의존성을 모델링하여 제로샷 예측의 효과성을 높인다.
원문 출처
arXiv cs.LG (머신러닝)