Inkling 2 Small 공개: 594B 파라미터 MoE, 활성 17B, 이미지 입력 지원
Introducing Inkling 2 Small
Thinking Machines가 두 번째 모델 세대인 Inkling 2 Small을 발표했다. 전체 594B 파라미터에 활성 파라미터 17B의 Mixture-of-Experts 구조이며, 이미지 입력과 variable effort를 지원한다. 현재는 Tinker를 통해 닫힌 가중치로 제공된다. 기사에 따르면 Inkling 2 Small은 Artificial Analysis Intelligence Index에서 31점을 받아 이전 모델들보다 높은 점수를 기록했다. 회사는 agentic coding, vision, knowledge work, reasoning 전반의 성능 향상을 밝혔으며, 이는 더 효율적인 pre-training과 대규모 통합 RL 실행에서 나왔다고 설명했다. 모델은 우선 Tinker Playground에서 체험할 수 있고, Tinker에서 fine-tuning과 sampling도 가능하다. 전체 가중치는 외부 안전성 테스트와 red-teaming이 끝난 뒤 다음 주에 Apache 2.0 라이선스로 공개될 예정이며, 체크포인트도 그때 내려받을 수 있다. 이전 Inkling Small은 276B 전체 파라미터에 활성 12B였다.
Apache 2.0으로 공개될 가중치가 594B 전체·17B 활성 MoE 구조라서, 로컬 추론과 Tinker 기반 fine-tuning을 검토하는 개발자는 공개 일정과 체크포인트 다운로드 조건을 확인해 두면 된다.
원문 출처
r/LocalLLaMA