Attention Sensitivity와 Behavior In-Context Learning의 분리

Attention Sensitivity Is Not Enough: Dissociating Attention-Level and Behavioural In-Context Learning under Fine-Tuning

이 논문은 대형 언어 모델이 시연을 통해 새로운 작업에 적응하는 In-context learning (ICL)과 이를 미세 조정할 때 발생하는 행동 저하에 대해 다룬다. 연구에서는 In-Context Sensitivity (ICS)와 ICL-GAP을 정의하고, Llama-2-7B 모델을 사용한 실험에서 ICS가 1.413에 도달했지만, ICL-GAP은 거의 0에 가까운 결과를 보였다. 이는 주의(attention) 수준의 ICL 프록시가 행동 격차와의 검증 없이 훈련 목표로서 신뢰할 수 없음을 시사한다.