손상 인식 다중 무장 강도 선택을 통한 비전 및 언어 변환기 가지치기
Damage-Aware Bandit Pruning for Vision and Language Transformers
구조적 포스트 트레이닝 가지치기는 기능 단위를 선택하여 제한된 성능 저하를 유발하는 방식으로 이루어진다. 이 연구에서는 언어 및 비전 변환기의 구조적 단위 선택을 손상 인식 다중 무장 강도 문제로 공식화하고, 주어진 후보 평가 예산 하에서 진행된다. 실험은 WikiText-2, LAMBADA, Imagenette에서 GPT-2, OPT, Pythia, Qwen2.5, SmolLM2, ViT-B/16, DeiT-Tiny, Swin-Tiny 모델을 대상으로 하여 랜덤, 크기, 정적 중요도, 예산 기반 탐색 방법과 비교하였다. 다섯 개의 시드에서, 밴딧 방법이 예산 기반 탐색에 비해 성능 저하를 줄이는 경향을 보였다.
원문 출처
arXiv cs.AI (인공지능)