Anthropic, Claude Opus 4.6의 J-space 발견
Anthropic found a hidden space where Claude puzzles over concepts
AI 기업 Anthropic은 Claude Opus 4.6에서 J-lens라는 도구를 사용하여 J-space라는 숨겨진 영역을 발견했다. 이 J-space는 모델이 향후 생성할 가능성이 있는 단어와 관련된 개별 단어들을 포함하고 있으며, 이를 통해 모델의 내부 작동 방식을 더 잘 이해하고 제어할 수 있는 방법을 제시한다. J-lens는 모델이 다음에 생성할 단어를 예측하는 것 외에도 미래의 유용한 토큰을 계산하는 과정을 보여준다. 예를 들어, Claude가 수학 문제를 해결할 때 J-space는 중간 결과를 포함한 단어들을 드러낸다.
J-lens를 통해 LLM의 내부 작동 방식을 이해하고 제어할 수 있는 새로운 방법을 제공한다.
원문 출처
MIT Technology Review — AI