PRM-Pruned Fragment Grafting의 비활성화 메커니즘 분석
Characterizing a Configuration Where Inference-Time PRM-Pruned Fragment Grafting Is Inert: Evidence from Three Reasoning LMs
PRM-Pruned Fragment Grafting (PPFG) 메커니즘이 다양한 언어 모델에서 통계적으로 독립적인 병렬 체인-사고(baseline)와 차이가 없음을 보여주었다. 322개의 정체 규칙 주입 사건을 네 가지 범주로 분류한 결과, 14%만이 실제로 어려움을 겪고 있는 체인을 겨냥했으며, 나머지는 이미 성공했거나 완료에 가까운 체인이었다. PPFG의 선택이 독립적인 방법에 비해 문제당 +0.13 pp의 이득을 줄 수 있다는 점이 발견되었다.
PPFG는 Qwen2.5-7B-Instruct와 Math-Shepherd를 사용하여 MATH500에서 테스트되었으며, 이 방법이 독립적인 병렬-CoT와 통계적으로 구별되지 않음을 보여준다.
원문 출처
arXiv cs.AI (인공지능)