언어모델의 숫자 선택 편향: 인스트럭션 튜닝이 라운드 넘버 회피와 끝점 회피를 강화한다

3, 7, 14, 17, 42: Instruction Tuning Installs and Sharpens Number-Choice Heuristics in Language Models

arXiv 논문은 무작위 숫자를 요청했을 때 언어모델이 1부터 N까지 각 정수에 부여하는 확률을 샘플링 오차 없이 계산했다. 18개 오픈 웨이트 모델 계열과 29가지 디코딩 설정을 평가했으며, 기본(base) 체크포인트와 인스트럭션 튜닝 체크포인트를 짝지은 15쌍 모두에서 튜닝 후 분포가 덜 균일해졌다. 튜닝된 체크포인트는 10의 배수 같은 라운드 넘버를 거의 완전히 피했고, 기본 체크포인트는 끝점을 제외하면 라운드 넘버를 피하지 않았다. 기본 체크포인트가 1과 N을 내부 비율의 0.30~0.60 수준으로 반환한 반면, 튜닝 체크포인트는 끝점을 거의 반환하지 않았다. 홀수 선호는 N=100에서만 튜닝 체크포인트 전반에 일관되게 나타났다. 튜닝이 모델들에 공통된 새로운 선호 정수를 만들지는 않았다. N이 10을 넘는 경우 어떤 최빈 정수도 튜닝 조건의 42% 이상에서 공유되지 않았고, 정수 17의 확률은 15쌍 중 10쌍에서 상승하고 5쌍에서 하락했다. 이 집중 현상은 모델 고유의 분포에 존재하며, 온도 1.0에서 top-p 0.95 핵 샘플링을 적용하면 총변동거리(total variation distance)가 중앙값 기준 0.035 늘어났다.