GPT-6.1 Sol 모델, 중첩 모델 아키텍처에 대한 루프된 정보
GPT-6.1 Sol looped "leak" hints at nested models serving architecture
GPT-6 Astra는 여러 번의 전방 패스를 통해 토큰을 출력하는 루프된 트랜스포머 아키텍처로 추정된다. GPT-6-Sol은 토큰당 3회의 추론 패스를 사용하고, GPT-6.1-Sol은 2회를 필요로 한다. GPT-6-Sol과 5.6-Sol은 약 100 tok/s의 속도를 보이며, GPT-6.1-Sol과 GPT-6-Astra는 약 60 tok/s로 추정된다. 이는 Sol이 Astra 요청을 완료하기 위해 추가 사이클을 기다려야 할 수 있음을 시사한다.
GPT-6.1-Sol은 2회의 추론 패스를 통해 성능을 최적화할 수 있다.
원문 출처
r/LocalLLaMA