본문으로 건너뛰기
News

AI끼리 키-값 캐시로 직접 소통하는 스웜 텔레파시와 가중치 직접 편집 연구, 그리고 메모리 가격 논쟁

지능은 구름 위, 청구서는 땅으로

MIT CSAIL이 발표한 스웜 텔레파시(SwaT)는 서로 다른 패밀리의 모델들이 요약문 대신 내부 인지 상태인 키-값 캐시(KV-Cache)를 직접 주고받게 하며, 처리 속도 4배 향상과 작업 정확도 평균 40% 이상 상승을 보고했다. 같은 흐름 속에서 AI가 사람의 언어 대신 잠재 벡터와 가중치로 소통하고 스스로를 고쳐 쓰기 시작했다는 점이 검증 문제를 함께 낳고 있다. SwaT에서는 발신 모델이 토큰을 만들고 수신 모델이 다시 읽어 들이는 프리필(Prefill) 과정을 건너뛰어 속도를 높인다. 영어로만 훈련한 경량 매퍼를 거친 시각언어모델의 인지 상태가 텍스트 모델에 전달되어 시각 추론을 수행하는 제로샷 전이도 보고되었다. 가중치 공간 프로그래밍 연구에서는 프론티어 LLM이 역전파나 환경 피드백 없이 원시 가중치를 읽고 쓸 수 있었으며, GPT-6 아스트라는 언어모델 가중치의 0.016%만 직접 편집해 추론 루프 오류를 바로잡았다고 기사는 전한다. 한편 얀 르쿤과 랜달 발레스트리에로는 플라톤 표상 가설을 수학적 정리로 끌어올려, 서로 다른 양식의 인코더가 회전 변환 하나를 제외하고 동일한 표상을 학습한다고 증명했다. 좋은 뷰로 학습한 1억 900만 매개변수의 텍스트 JEPA가 720억 매개변수의 최신 LLM보다 시각 모델과의 정렬도가 높았고, 같은 정렬 수준에 필요한 훈련 샘플은 42분의 1이었다. 기사는 기계끼리의 소통이 효율적인 만큼, 사람이 읽을 수 없는 잠재 벡터로 판단하는 에이전트의 신뢰성을 어떻게 확인할지가 남은 질문이라고 짚는다.

SwaT의 키-값 캐시 직접 전달은 처리 속도 4배와 정확도 평균 40% 이상 향상이라는 수치로 제시되었으므로, 모델 간 협업 파이프라인에서 텍스트 요약을 주고받는 구조를 캐시 전달로 대체할 때의 성능 차이를 실측하는 기준점이 된다.

원문 출처

AI 코리아 커뮤니티 뉴스레터

원문 보기 ↗
AI 리서치·논문고급·

Cognition, merge 가능성 평가 벤치마크 FrontierCode 공개에 Opus 4.8도 13.4%

Cognition(Devin 개발사)이 6월 8일 정답 여부를 넘어 '실제로 머지할 코드인가'를 묻는 코딩 벤치마크 FrontierCode를 공개했다. 36개 주력 오픈소스 레포에서 추출한 150개 태스크로 구성되며, 20명 이상의 일급 메인테이너가 태스크당 40시간 넘게 투입해 설계했다. 난이도는 Extended(150)·Main(100)·Diamond(최난 50)로 중첩 구성된다. 채점은 기능 정확성에 더해 회귀 안전성, 스코프 침범(scope creep) 여부, 테스트 품질, 코드베이스 규약 준수까지 평가한다. 고전적 단위 테스트, 에이전트가 작성한 테스트가 망가진 코드에서 실제로 실패하는지 검증하는 역방향 테스트, 파일·diff 경계 검증, LLM 기반 코드 품질 리뷰를 결합한다. 'blocker' 기준을 모두 통과해야 0점을 면한다. 최고 성적은 Claude Opus 4.8로 Diamond 13.4%·Main 34.3%·Extended 51.8%, GPT-5.5는 Diamond 6.3%, Gemini 3.1 Pro는 4.7%에 그쳤다. SWE-Bench Pro 대비 오탐률(false positive)이 81% 낮다.

SWE-bench류 포화 속에서 '테스트만 통과하면 통과'라는 벤치마크의 맹점을 정면으로 겨냥했다 — METR도 고득점 패치가 메인테이너에게 거절되는 현상을 지적해왔다. Diamond 13.4%라는 낮은 천장은 에이전트 코드의 프로덕션 머지 적합성이 마케팅 수치보다 훨씬 뒤처져 있음을 보여준다. 한국 개발팀에는 코딩 에이전트 도입 시 정답률이 아니라 회귀·스코프·리뷰 통과율로 평가 기준을 재설정하라는 실무 지침이다.

Cognition원문
AI 리서치·논문입문·

Grok 5, Q1 데드라인 넘겨 Q2 베타 전망에 6T 파라미터 MoE 루머

xAI의 Grok 5가 2026년 6월 기준으로 여전히 학습 중이며 공식 출시일·스펙은 발표되지 않았다. xAI는 1월 시리즈 E 업데이트에서 학습이 진행 중임을 확인했고, 일론 머스크가 원래 노렸던 Q1 2026 출시 창은 지나갔다. 현재 xAI 공식 X 계정 기준 가장 유력한 시점은 Q2 2026 공개 베타로 좁혀진다. 스펙은 전부 루머 단계지만 일관되게 거론되는 수치는 6조(6T) 파라미터 + MoE 아키텍처로, 사실이라면 공개 발표된 모델 중 최대 규모이자 Grok 4의 약 2배다. 비교 기준으로 Grok 4는 GPQA Diamond 88%, Humanity's Last Exam 25.4%를 기록했다. 요컨대 Grok 5는 '메가스케일 + 지연'이라는 두 키워드로 정리된다 — 발표 규모는 업계 최대급이지만, 출시는 반복적으로 밀리고 있어 실측 벤치마크는 존재하지 않는다.

Grok 5는 '발표 수치'와 '실출시'를 분리해서 봐야 하는 전형적 사례다. 6T 파라미터는 화제성은 크지만 실측 벤치마크가 없는 한 의사결정 근거가 될 수 없다 — LLM 시세·스펙 환각을 경계하는 우리 함정 목록과 같은 맥락이다. 한국 팀에 주는 실무 교훈은 명확하다. 미출시 모델을 로드맵의 전제로 삼지 말 것. Grok 5는 나올 때 다시 평가하면 되고, 지금은 이미 출시된 Gemini 3.1·Command A+·Kimi K2.6으로 의사결정하는 게 합리적이다.

xAI release trackers (NxCode / WaveSpeed)
AI 리서치·논문중급·

에이전틱 RAG 이해하기: 검색에 '추론 루프'를 두르다

전통적 RAG는 질문을 임베딩해 한 번 검색하고 그 결과를 그대로 프롬프트에 붙이는 단방향 파이프라인이다. 문제는 검색 단계가 자주 실패한다는 데 있다. 단순 RAG 파이프라인이 검색에서 상당한 비율로 부정확한 결과를 낸다는 분석이 반복적으로 보고된다. 에이전틱 RAG는 검색 주위에 추론 루프를 두른다. 에이전트가 "정보가 충분한가? 관련 있나? 질의를 다시 짜서 재검색해야 하나?"를 스스로 판단하고, 필요하면 질의를 재구성해 여러 번 검색한다. 그래프 기반 검색, 계층적 검색 인터페이스, 병렬 검증 에이전트로 확장되는 흐름이다. 동시에 정적 지식엔 RAG가 여전히 유효하되, 적응형 어시스턴트에는 컨텍스트 메모리가 점점 더 큰 비중을 차지한다는 관측도 나온다. 한국 개발자에게는 "생성보다 검색이 병목"이라는 현실 인식과, 검색을 에이전트가 능동 제어하도록 설계하라는 실무 지침이 핵심이다.

RAG 실패의 대부분이 생성이 아닌 검색 단계에서 나온다는 점을 짚고, 검색을 에이전트가 제어하는 설계로 옮겨야 하는 이유를 설명한다.

arXiv (Agentic RAG Survey)원문

아직 댓글이 없습니다. 첫 의견을 남겨 주세요.