Amazon SageMaker AI에서 지식 증류로 효율적인 쇼핑 에이전트 만들기

Build efficient agents with knowledge distillation on Amazon SageMaker AI

AWS Machine Learning Blog는 프런티어 모델을 교사로 삼아 작은 학생 모델을 미세 조정하는 시퀀스 수준 지식 증류(SeqKD)를 Amazon SageMaker AI에서 적용하는 방법을 소개했다. 에이전트 작업이 여러 번의 모델 호출로 이뤄져 비용이 누적되는 문제를 줄이려는 시도다. 기사는 쇼핑 어시스턴트 예시로 문제를 설명한다. 에이전트는 검색, 결과 확인, 조건 검증, 추천 결정을 반복하는 루프로 동작하며, 작업 한 건마다 프런티어 모델 호출이 여러 번 발생한다. SeqKD는 교사 모델이 생성한 텍스트만으로 학생 모델을 지도 미세 조정(SFT)하며, 교사의 로짓이나 강화학습 인프라가 필요 없어 API로만 접근 가능한 폐쇄형 교사에도 쓸 수 있다고 설명한다. 에이전트의 경우 학습 대상은 단일 답변이 아니라 추론, 도구 호출, 관찰 결과가 이어진 궤적 전체다. 기사는 SeqKD 학습 과정으로 교사가 고품질 궤적을 생성하고, 과제를 해결한 궤적만 남겨 SFT용으로 인코딩한 뒤, 서버리스 인프라에서 학습하고, 보류된 벤치마크로 학생을 평가하는 흐름을 다룬다고 밝힌다. 기사는 SeqKD가 입력은 있으나 고품질 정답 출력이 없는 경우에 맞는다고 설명한다. 다만 교사 분포 전체를 맞추는 것은 불가능하므로 교사가 실제로 생성한 샘플로 이를 근사한다고 명시한다.