확산 모델을 위한 수정 훈련
Correction Training for Diffusion Models
확산 모델에서 반복 샘플링은 노출 편향으로 인해 오류가 누적될 수 있다. 이 연구에서는 훈련과 추론 간의 격차를 줄이기 위한 수정 단계를 도입한다. 수정자는 기본 모델의 예측을 입력으로 받아 같은 실제 타겟에 대해 훈련된다. 샘플링 과정에서 각 디노이징 단계에서 예측을 반복적으로 수정하여 초기 아티팩트가 최종 샘플에 남지 않도록 한다. 이 방법은 DiT, SiT, JiT에서 평가되었으며, 무가이드 생성 및 무조건 생성에서 FID 점수를 크게 개선하였다. 수정과 CFG를 결합하면 다양성을 더욱 향상시키고 CFG의 과포화 문제를 줄일 수 있다.
이 방법은 무조건 생성에서 고품질 샘플을 생성하는 데 특히 도전적인 상황에서 성능을 개선한다.
원문 출처
arXiv cs.AI (인공지능)