LeVJEPA 연구, 자기지도학습의 효율성 극대화
균열!
최근 연구 'LeVJEPA'는 자기지도학습에서 표현 붕괴를 방지하기 위해 단 하나의 인코더와 손실 함수, 고정된 하이퍼파라미터를 사용하여 성능을 극대화했다. 이 연구는 입력 토큰의 95%를 무작위로 버리고 남은 5%로 학습을 진행하여, 기존 모델 'V-JEPA 2' 대비 5배에서 20배 적은 연산량으로 동등하거나 더 나은 성능을 달성했다. 또한, '블록 인과적 어텐션'을 통해 실시간 스트리밍 인식과 자율 월드 모델 구현에 최적화된 구조를 제공한다.
LeVJEPA는 기존보다 5배에서 20배 적은 연산량으로 동등한 성능을 내며, 개인용 그래픽카드로도 의미 있는 영상 표현 학습이 가능하게 한다.
원문 출처
AI 코리아 커뮤니티 뉴스레터