Google DeepMind의 DiffusionGemma 모델 발표
The Sequence AI of the Week #878: Inside Google Deepmind's First Real Crack in Next-Token Generation
Google DeepMind는 텍스트 확산 모델인 DiffusionGemma를 발표했다. 이 모델은 기존의 변환기 모델과는 다른 방식으로 텍스트 생성을 접근하며, 전통적인 언어 모델들이 토큰을 순차적으로 생성하는 방식에서 벗어나 새로운 가능성을 탐구하고 있다. DiffusionGemma는 텍스트 생성이 반드시 왼쪽에서 오른쪽으로 진행될 필요가 없다는 질문을 던진다.
원문 출처
TheSequence (Jesus Rodriguez)