데이터셋이 교사가 되는 새로운 기계 학습 접근법

The Sequence Knowledge #902: Learning About Distillation: When the Dataset Becomes the Teacher

기계 학습 역사에서 데이터는 기존에 존재하는 자원으로 간주되었으나, 대형 언어 모델의 등장으로 이 관계가 변화했다. 이제 모델은 단순한 데이터 소비자가 아니라 질문, 답변, 설명, 비판, 선호 레이블 등을 생성할 수 있다. 이로 인해 새로운 훈련 방식이 생겼으며, 대형 모델이 작은 모델이 학습할 수 있는 경험을 생성하도록 요청할 수 있다. 교사는 오프라인에서 작동하며, 그 출력은 데이터셋이 되어 학생 모델을 훈련시킨다. 교사는 추론 시 사라지지만, 그 행동의 일부는 학생 모델에 남는다. 이는 합성 데이터의 증류로 설명된다.