Unsloth, DeepSeek-V4.1-Flash-1017 Dynamic v3.1 GGUF 공개 및 GSQ-RCO GGUF와의 벤치마크 비교
Introducing DeepSeek-V4.1-Flash-1017 Dynamic v3.1 Unsloth GGUFs
Unsloth가 DeepSeek-V4.1-1017 Dynamic V3.1(preview) GGUF를 공개하며, 7개 벤치마크에서 같은 크기 대비 정확도를 더 많이 유지한다고 밝혔다. 이 모델은 128GB RAM 또는 통합 메모리 기기에서, 엔그램(engram) 오프로딩을 쓰면 64GB RAM에서도 실행될 수 있다고 한다. Unsloth는 AIME25, LiveCodeBench, GPQA Diamond, Aider Polyglot 등에서 Unsloth Dynamic V3.1이 ISTA의 GSQ-RCO GGUF보다 거의 모든 지표에서 높다고 밝혔다. 각 벤치마크는 최소 3회(AIME25는 16회) 실행해 평균을 냈다. 이전 버전인 v3도 대부분 지표에서 ISTA보다 나았다고 한다. 표에 따르면 UD-Q8_K_XL은 508.4GB, UD-Q2_K_XL은 334.8GB, UD-IQ1_S는 233.0GB이며, Avg of 6 기준으로 UD-IQ1_S는 83.53, GSQ-RCO IQ1_M은 81.78이다. Unsloth는 ISTA가 보고한 결과를 재현하지 못했다고 밝혔다. 가장 큰 차이는 AIME25로, ISTA는 기준선 대비 100% 정확도 회복을 주장했지만 Unsloth의 측정에서는 약 91.88%였다. KLD가 정확도의 신뢰할 만한 지표인지에 대한 문의도 있었다고 언급했으며, 저비트 양자화 모델이 비양자화 모델보다 다소 길게 추론한다는 점과 이를 개선할 계획도 밝혔다. 추가 결과는 다음 주에 공개될 예정이라고 한다.
UD-IQ1_S(233.0GB)가 GSQ-RCO IQ1_M(231.3GB)보다 크기는 약간 크지만 Avg of 6 점수가 83.53으로 81.78보다 높아, 로컬 환경에서 모델 크기와 정확도를 비교할 때 참고할 수 있다.
원문 출처
r/LocalLLaMA