AI끼리 키-값 캐시로 직접 소통하는 스웜 텔레파시와 가중치 직접 편집 연구, 그리고 메모리 가격 논쟁
지능은 구름 위, 청구서는 땅으로
MIT CSAIL이 발표한 스웜 텔레파시(SwaT)는 서로 다른 패밀리의 모델들이 요약문 대신 내부 인지 상태인 키-값 캐시(KV-Cache)를 직접 주고받게 하며, 처리 속도 4배 향상과 작업 정확도 평균 40% 이상 상승을 보고했다. 같은 흐름 속에서 AI가 사람의 언어 대신 잠재 벡터와 가중치로 소통하고 스스로를 고쳐 쓰기 시작했다는 점이 검증 문제를 함께 낳고 있다. SwaT에서는 발신 모델이 토큰을 만들고 수신 모델이 다시 읽어 들이는 프리필(Prefill) 과정을 건너뛰어 속도를 높인다. 영어로만 훈련한 경량 매퍼를 거친 시각언어모델의 인지 상태가 텍스트 모델에 전달되어 시각 추론을 수행하는 제로샷 전이도 보고되었다. 가중치 공간 프로그래밍 연구에서는 프론티어 LLM이 역전파나 환경 피드백 없이 원시 가중치를 읽고 쓸 수 있었으며, GPT-6 아스트라는 언어모델 가중치의 0.016%만 직접 편집해 추론 루프 오류를 바로잡았다고 기사는 전한다. 한편 얀 르쿤과 랜달 발레스트리에로는 플라톤 표상 가설을 수학적 정리로 끌어올려, 서로 다른 양식의 인코더가 회전 변환 하나를 제외하고 동일한 표상을 학습한다고 증명했다. 좋은 뷰로 학습한 1억 900만 매개변수의 텍스트 JEPA가 720억 매개변수의 최신 LLM보다 시각 모델과의 정렬도가 높았고, 같은 정렬 수준에 필요한 훈련 샘플은 42분의 1이었다. 기사는 기계끼리의 소통이 효율적인 만큼, 사람이 읽을 수 없는 잠재 벡터로 판단하는 에이전트의 신뢰성을 어떻게 확인할지가 남은 질문이라고 짚는다.
SwaT의 키-값 캐시 직접 전달은 처리 속도 4배와 정확도 평균 40% 이상 향상이라는 수치로 제시되었으므로, 모델 간 협업 파이프라인에서 텍스트 요약을 주고받는 구조를 캐시 전달로 대체할 때의 성능 차이를 실측하는 기준점이 된다.
원문 출처
AI 코리아 커뮤니티 뉴스레터