Osprey: 타겟 비특정 사전 훈련으로 강화된 드래프터
Osprey: Target-agnostic Pre-training Makes Stronger Drafters in Speculative Decoding
Osprey는 사전 훈련된 소형 언어 모델을 활용하여 드래프터를 부트스트랩하고, 이를 통해 타겟에 구애받지 않는 자산으로 간주하여 경량화된 적응 단계로 작업을 줄인다. Osprey는 Qwen3-8B에서 평균 수용 길이를 16.1%, Llama-3.3-70B-Instruct에서 21.2%, 229B MiniMax-M2.5에서 22.7% 개선하며, 초당 토큰 수는 17.5% 증가시킨다. 이 방법은 특히 도메인 외 및 다국어 데이터에서 큰 성과를 보인다.
Osprey는 타겟 모델에 대한 사전 훈련을 재사용 가능하게 하여 드래프터의 작업 효율성을 높인다.
원문 출처
arXiv cs.CL (계산언어학·NLP)