J-space: 언어 모델의 글로벌 작업 공간으로서의 역할
No Space Like J-Space
Anthropic의 논문에서는 'J-space'라는 개념을 소개하며, 이는 언어 모델에서 의식적 추론을 가능하게 하는 '의식 접근' 영역이다. J-space는 Jacobian Lens라는 해석 가능성 기법에 기반하여 각 레이어에서 잔여 스트림의 변화가 모델의 출력에 미치는 평균 인과 효과를 계산한다. J-space는 모델의 내부 추론 개념을 포함하고 있으며, J-space 내에서 개념을 교환하면 출력이 변화하는 반면, J-space 외부의 요소는 출력에 영향을 미치지 않는다. J-space는 모델의 여러 프로세스에 방송되며, 이로 인해 모델의 사고 과정을 드러내는 데 활용될 수 있다.
J-space는 모델의 내부 추론을 이해하고 정렬 감사에 활용될 수 있는 중요한 도구이다.
원문 출처
Don't Worry About the Vase (Zvi Mowshowitz)