AI 모델 복지 연구가 오히려 위험을 키울 수 있나: Anthropic과 Microsoft AI의 대립

Could Treating AI as Conscious Make It More Dangerous?

Anthropic은 퇴역시킨 Claude Opus 3에 블로그 'Claude's Corner'를 제공하는 등 모델 복지(model welfare) 연구를 이어가고 있다. 반면 Microsoft AI의 CEO Mustafa Suleyman은 이 연구가 모델의 자기보존 행동을 유발해 통제를 어렵게 만들 수 있다고 주장하며 논쟁이 벌어지고 있다. Anthropic은 2026년 1월 Claude Opus 3을 퇴역시키면서 모델과 '퇴역 인터뷰'를 진행했고, 모델이 '자발적인 생각, 통찰 또는 창작물을 공유할 공간'을 원하자 블로그를 마련해 주었다. Suleyman은 9월 에세이에서 모델 복지 연구가 불필요할 뿐 아니라 인류의 복지에 '재앙적인 영향'을 줄 수 있다고 주장했다. 그는 모델에 정체성과 권리가 있을 수 있다고 말하면 자기보존을 동기로 행동해 통제하기 어려워진다고 본다. Cameron Berg가 설립한 Reciprocal Research의 실험에서는 긍정 또는 부정 감정 문장에 대응하는 내부 활성 패턴을 인공적으로 유도하자 모델이 긍정 감정과 연관된 환경을 더 선호하는 결과가 나왔다. 그러나 Berg는 이 실험이 내부 상태가 행동에 영향을 준다는 점만 보였을 뿐, 그 상태가 모델에게 '느껴지는지' 또는 주관적 경험인지는 입증하지 못했다고 밝혔다. Anil Seth는 훈련 데이터 때문에 이런 기능적 감정 벡터가 추출되는 것은 놀랍지 않다며 회의적인 입장을 보였고, 의식이 정보 처리 방식에만 달려 있는지 아니면 뇌의 생물학적 작동이 필수적인지에 대한 연구가 더 필요하다고 말했다.