Deepseek V4.1 Flash 모델의 파라미터 수치 정정
Deepseek V4.1 Flash is 748B, not 552B
Deepseek V4.1 Flash 모델의 총 파라미터 수치는 748B이며, 기본 모델은 552B이다. 이전에 제기된 284B, 305B, 485B, 522B는 잘못된 수치다. 모델의 주요 구성은 약 551.566B 파라미터로 40층으로 구성되어 있으며, FFN 전문가가 543.582B, 나머지 구성 요소가 7.984B이다. 추가적으로 engram은 약 196.929B, DSpark/MTP는 약 14.225B, 비전 인코더는 약 0.485B이다. 이 모델을 사용하기 위해서는 128GB 또는 256GB의 RAM/VRAM이 필요하다.
Deepseek V4.1 Flash 모델의 정확한 파라미터 수치는 748B로, 이를 통해 개발자들은 시스템 요구 사항을 보다 정확하게 이해하고 준비할 수 있다.
원문 출처
r/LocalLLaMA