2021년 4월 Gwern.net 뉴스레터
April 2021 newsletter
2021년 4월 Gwern.net 뉴스레터가 발행되었으며, 주요 내용으로는 Naver의 204억 매개변수를 가진 한국어 신경망 'HyperCLOVA' 발표와 Huawei의 200억 매개변수 중국어 모델 'PanGu-α'의 프로토타입 출시가 포함된다. 또한 Google I/O 2021에서 100억 매개변수 Transformer 모델인 LaMDA(챗봇)와 MUM(다중 모달 검색/번역/Q&A) 발표가 있었다. Nvidia는 3072 A100 GPU에서 1조 매개변수 모델 훈련을 가능하게 하는 'Megatron-LM' 소프트웨어를 소개했다.
이 뉴스는 한국어 AI 모델 개발의 진전을 보여주며, 글로벌 AI 경쟁에서 한국의 위치를 강화할 수 있는 기회를 제공한다.
원문 출처
Gwern.net (Gwern Branwen)