KRAFTON의 Raon-1 mini 모델 소개
KRAFTON/Raon-1-mini-preview · Hugging Face
Raon-1 mini는 KRAFTON AI에 의해 처음부터 설계되고 훈련된 30B-A4B Mixture-of-Experts (MoE) 언어 모델이다. 이 모델은 한국어 대화 및 에이전트 작업에서 강력한 능력을 보여준다. Raon 오픈 모델 패밀리의 일환으로 Apache 2.0 라이선스 하에 공개되었다. 주요 기능으로는 내장된 사고 능력, 지시 따르기 및 검색에서의 우수한 성능, 강력한 한국어 능력, 에이전트 작업을 위한 도구 호출 지원, 가속화된 추론을 위한 DFlash2 초안 모델 제공, MXFP8 및 NVFP4 형식의 양자화 옵션이 있다.
Raon-1 mini는 NVIDIA RTX 5090 GPU에서 단일 장치로 추론을 가능하게 하는 NVFP4 형식을 지원한다.
원문 출처
r/LocalLLaMA