무작위 신경망의 귀납적 편향 연구
Studying inductive biases of random networks via local volumes
이 글에서는 별 영역 부피 추정을 사용하여 무작위 신경망의 매개변수-함수 맵의 귀납적 편향을 연구한다. 이는 '무작위로 훈련된 신경망 샘플링 확률 추정' 및 '신경적 적색편이: 무작위 네트워크는 무작위 함수가 아니다'라는 아이디어에 기반한다. 귀납적 편향을 이해하는 것은 딥 신경망의 일반화를 이해하는 데 필수적이며, 고정된 아키텍처에서 일부 작업은 쉽게 학습될 수 있지만 다른 작업은 학습하는 데 기하급수적으로 긴 시간이 걸릴 수 있다.
원문 출처
EleutherAI Blog