Ali Behrouz, Cornell 대학원생의 지속적 학습을 위한 새로운 AI 아키텍처 연구
Nested Learning: Ali Behrouz on the Quest for Continual Learning & Illusion of AI Architectures
Cornell 대학원생이자 Google 연구원인 Ali Behrouz는 AI의 지속적 학습을 위한 새로운 아키텍처에 대한 연구를 논의했다. 그의 논문 'Nested Learning'은 Jeff Dean에 의해 패러다임 전환 가능성이 있는 작업으로 평가받으며, 모델이 핵심 지식을 보존하면서 새로운 맥락에 적응할 수 있도록 서로 다른 레이어를 서로 다른 주기로 업데이트하는 방식을 제안한다. 이 연구는 인간의 기억 시스템에서 영감을 받았으며, AI의 '수면'을 통한 기억 통합, 모든 딥러닝을 연상 기억으로 보는 관점, 지속적 학습이 프라이버시, 정렬, AGI로 가는 길에 미치는 심오한 함의에 대해서도 다룬다.
원문 출처
The Cognitive Revolution