Qwen3.5-4B 모델에서 발견된 특이 뉴런들: 냉소·아첨 전환 뉴런, 국가 선전 뉴런, 유아 말투 뉴런, 종교·정치 집착 뉴런, TV 채널 안내 뉴런
More interesting and unusual Qwen3.5-4B neurons
r/LocalLLaMA 게시자 /u/Tasty-Ad-3753이 Qwen3.5-4B 모델에서 활성화 시 특정 행동을 유도하는 뉴런 여러 개를 찾아 공유했다. 앞선 'redditor 뉴런'에 이어 추가로 확인된 뉴런들의 역할과 출력 예시가 소개됐다. L11 N8147 뉴런은 냉소적·반대 성향과 아첨·비굴한 성향 사이를 조절하는 다이얼 역할을 하는 것으로 보고됐다. 냉소·반대 방향으로 활성화되면 모델이 모든 것에 대해 거짓말을 하고, 아첨 방향으로 활성화되면 거짓말은 하지 못하지만 사용자가 말하는 것은 무엇이든 믿는다고 한다. L6 N9195 뉴런을 활성화하면 모델이 국가 선전 말투로 바뀌어 자신이 중국 정부에 의해 학습되었다고 주장하고, 시가 다소 디스토피아적인 느낌을 띠는 것으로 나타났다. L7 N4213 뉴런은 사용자를 아기처럼 대하는 말투로 설명하게 만들고, L17 N5680 뉴런은 신이나 신의 말씀, 중국공산당에 대해 집착적으로 이야기하게 만든다. L7 N8916 뉴런은 모델이 TV 채널 안내자인 것처럼 행동하게 하며, 예시로 '카툰 네트워크(CN)'라고 답하고 'Teen Titans Go!'를 방영 중이라고 말하는 장면이 제시됐다. 게시물은 뉴런 단위의 개입이 모델의 어조와 정체성 응답을 크게 바꿀 수 있음을 보여주는 사례 모음이며, 기사에는 이 뉴런들을 찾는 정량적 방법이나 검증 수치는 언급되어 있지 않다.
L11 N8147처럼 단일 뉴런으로 냉소·아첨 성향이 전환된다는 관찰은 Qwen3.5-4B에 대한 활성화 조작(activation steering)을 실험하는 개발자에게 직접 참고가 된다.
원문 출처
r/LocalLLaMA