Thinking Machines의 Inkling, Tencent의 Hy3, Poolside의 Laguna-S-2.1 등 최신 오픈 모델 소개
Latest open artifacts (#23): Laguna S2.1, Inkling, & Kimi K3 show the utility of open models on the Pareto frontier
Thinking Machines의 Inkling은 975B-A41B 멀티모달 MoE 모델로 텍스트, 이미지, 오디오 입력을 지원하며, 상업적 제공인 Tinker를 통해 파인튜닝이 가능하다. Tencent의 Hy3는 295B-A21B MoE로, 이전 버전보다 모든 지표에서 개선되었으며, 라이선스가 Apache 2로 변경되었다. Poolside의 Laguna-S-2.1은 118B-A8B MoE로 DGX Spark에 적합하며 OpenMDW 라이선스를 채택했다. Kimi-K3는 비상업적 라이선스 하에 출시되어 상업적 계약이 필요하다.
Inkling은 Tinker를 통해 파인튜닝 가능성을 제공하며, Hy3는 Apache 2 라이선스로의 변경이 개발자들에게 더 많은 활용 기회를 제공할 수 있다.
원문 출처
Interconnects (Nathan Lambert)