메트로폴리탄 미술관 아카이브에서의 비전-언어 모델 감사 연구
Disentangling Algorithmic Bias from Archival Artifacts: A Controlled Audit of Vision-Language Model Valuation in Metropolitan Museum Archives
이 연구에서는 메트로폴리탄 미술관의 오픈 액세스 컬렉션에서 역사적 예술 작품 메타데이터를 사용하여 Contrastive Language-Image Pretraining (CLIP) 모델의 사회적 편향을 감사한다. 총 1,500개의 객체 중 743개가 성별이 기재된 작품으로, 남성 534개, 여성 209개, 익명 618개이다. OpenAI CLIP과 OpenCLIP 모델 모두에서 성별 효과가 통계적으로 유의미하지 않음을 보여주었고, 예술가 성별이 조건부 효과를 미치지 않음을 확인하였다. 또한, 전반적인 제로샷 평가 지표가 모델의 절대 공정성을 증명하는 것이 아니라는 점을 강조하였다.
이 연구는 CLIP 모델의 감사에서 메타데이터의 혼란 요소를 구분하는 것이 필요함을 보여준다.
원문 출처
arXiv cs.LG (머신러닝)