Thinking Machines Lab, 5,940억 개 파라미터 중 170억 개만 쓰는 Inkling 2 Small 공개
신규 모델 발표! 미라 무라티의 Inkling 2 Small!
미라 무라티가 이끄는 Thinking Machines Lab이 11월 5일 Inkling 2 Small을 발표했다. 전체 파라미터는 5,940억 개지만 답변 생성 시 170억 개만 사용하는 구조다. 이 모델은 현재 회사의 Tinker에서 사용해 볼 수 있으며, 사용자가 자신의 서버에서 실행할 때 필요한 가중치 파일은 외부 안전성 검토를 거쳐 다음 주에 공개될 예정이라고 기사는 전했다. 기사는 코딩 시험에서 잘한 부분과 못한 부분, 그리고 이 모델이 4시간 남짓 만에 다른 AI를 예측 업무에 맞게 훈련시킨 사례를 다룬다고 소개했다.
전체 5,940억 개 파라미터 중 170억 개만 활성화하는 구조와 Tinker에서의 바로 사용 가능 여부, 다음 주 가중치 공개 일정을 확인해 두면 자체 서버 실행 계획을 세우는 데 도움이 된다.
원문 출처
AI 코리아 커뮤니티 뉴스레터