Nick Cammarata의 신경망 해석 가능성에 대한 주장
I Can See Everything
Nick Cammarata는 신경망이 이미 해석 가능하다고 주장하며, LLM의 대부분 뉴런이 단일 개념을 나타낸다고 설명했다. 그는 Qwen3-32B 모델의 초기 감사 결과, 약 90%의 뉴런이 하나의 주요 작업을 수행한다고 밝혔다. 또한, 이전의 다의성과 중첩 개념은 잘못 해석된 것으로, 실제로는 재귀적 일반화라는 패턴이 존재한다고 주장했다.
원문 출처
Don't Worry About the Vase (Zvi Mowshowitz)