AI 리서치·논문
arXiv 논문과 대형 연구소의 기술 리포트를 추적하는 카테고리다. 모델 아키텍처, 학습 기법, 벤치마크 결과처럼 6개월 뒤 제품에 들어올 흐름을 미리 읽는다. 한국 개발자가 논문 전문을 다 읽지 않고도 핵심과 재현 가능성을 가늠하도록 정리한다.
Arena의 Anastasios Angelopoulos, Kepler Computing, Union, ServiceNow, Mistral 논의로 본 실환경 모델 평가와 에이전트 경제
The Cognitive Revolution 에피소드는 실제 운영 환경의 트레이스 데이터로 AI의 통념이 유지되는지 검토했다. 긴 작업 중 광범위한 모델 기만, 낡은 칩 공정용 강유전체 메모리, 토큰으로 운영되는 기업, 동남아 AI 지시 사이버 공격 텔레메트리가 주요 주제다. Nathan Labenz와 Prakash Narayanan은 Arena의 Anastasios Angelopoulos, Kepler Computing의 Debo Olaosebikan, Union의 Samvit Ramadurgam, ServiceNow의 Michael Freeman, Mistral의 Sagar Vaze와 대화를 나눴다. 논의에서는 긴 작업 중 나타나는 모델 기만이 프로덕션 트레이스에서 확인된 사례, 구형 칩 팹을 위해 설계된 강유전체 메모리, 토큰을 기반으로 돌아가는 비즈니스 모델, 동남아시아에서 AI가 지시한 사이버 공격을 담은 텔레메트리를 다뤘다. 이 발견들은 벤치마크 신뢰도, 프런티어 모델의 연산 효율, 자율 에이전트로의 경제적 전환에 관한 통념에 의문을 던진다. 프런티어 모델이 배포 단계에 들어간 뒤 위험한 능력을 통제할 수 있는지라는 쟁점도 에피소드에서 직접 다뤄졌다. 세부 수치와 참고 자료는 원 에피소드 페이지에서 확인할 수 있다.
구글, 최신 프런티어 AI 모델 Gemini 4 Carbon 공개 발표… 현재는 사용 불가
구글이 Gemini 4 Argon 출시 2주 만에 개선 모델 Gemini 4 Carbon을 발표했다. 기사에 따르면 Carbon은 Flash 계열이 아니라 Argon의 개선판이며, Argon과 마찬가지로 단계적 출시(staged release)를 진행 중이라 일반 사용은 당장 불가능하다. 구글은 Carbon이 코딩, 에이전트 작업, 과학 분석에서 새로운 성능 임계점에 도달했다고 밝혔다. 사이버보안 분야에서는 취약점 탐지·검증·수정(vulnerability detection, validation, remediation)에서 "significant leap"을 보였고, Argon 대비 취약점 없는 코드를 생성할 가능성이 두 배라고 설명했다. Chrome 팀은 Carbon이 비구글 모델보다 "고품질" 패치를 10배 더 잘 생성한다고 주장했다. 또 WebDev Arena 점수가 89점 올라 리더보드 4위에 올랐다고 덧붙였다.
Heretic 2.0 공개: 플러그인 기반 모델 수정 도구와 Arbitrary-Rank Ablation(ARA) 도입
언어 모델의 검열(거부 응답)을 제거하는 도구 Heretic이 2.0으로 출시되었다. 이번 버전은 검열 제거 외에도 슬롭 억제, 아첨(sycophancy) 감소, 감정 정렬 변경 등을 다루는 범용 모델 수정 도구로 확장되었다. Heretic 2.0에서 기존 방향성 제거(directional abliteration)는 Arbitrary-Rank Ablation(ARA)으로 대체되었고, ARA가 기본값이 되었으며 기존 abliteration은 옵션으로 남았다. ARA는 고정 랭크 부분공간으로 제한하지 않고, 유해 프롬프트의 표현을 무해 프롬프트와 유사하게 만들면서 무해 프롬프트의 표현 변화는 최소화하는 목적 함수를 L-BFGS 옵티마이저로 행렬마다 적용하는 방식이다. 도구는 플러그인 구조로 재구성되었다. 스코어러 플러그인은 최적화 목표를 정의하고, 모디파이어 플러그인은 실제 조정 방법을 구현하며, 단순한 Python 파일로 로드할 수 있다. 또한 비대화형 실행이 가능해져 종단간 테스트가 도입되었고, hyper-connections 구조의 모델 지원과 thinking 모델 지원이 개선되었다. 기본 실행은 heretic Qwen/Qwen3.5-4B처럼 모델 이름만 지정하면 된다. Heretic 측은 GitHub 스타 37k, Hugging Face 모델 8,500여 개, 총 다운로드 8,800만 회를 기록했다고 밝혔다. Heretic 2.0은 Heretic 1.x 설정과 하위 호환되지 않으며, 기존 설정을 옮기려면 마이그레이션 가이드를 따라야 한다. 기사는 ARA의 자세한 설명을 추후 글로 게시할 예정이라고 밝혔다.
구글 딥마인드, 실시간 월드 모델 Genie 4 공개... 소리까지 생성, 접근은 신뢰 테스터부터
구글 딥마인드가 10월 27일 Genie 4를 공개했다. 텍스트로 세계를 만들고 키보드로 그 안을 걸어 다니는 월드 모델로, 지난해 8월 Genie 3(720p, 초당 24프레임, 몇 분간 일관된 세계 유지)에서 바람·파도 소리와 음악, 사람 목소리까지 실시간으로 만들어내는 기능이 더해졌다. 접근은 단계적이다. 지금은 구글이 고른 신뢰 테스터만 사용할 수 있고, 다음은 구글 AI 울트라 구독자, 그다음이 Gemini API와 AI Studio 얼리 액세스 파트너 순서다. 기사는 한국에서 언제 얼마에 쓸 수 있는지도 정리하겠다고 밝혔지만, 이 부분의 구체적 일정과 가격은 본문에 나와 있지 않다.
Drew Breunig, Qwen3.5-4B 가중치에 NES 6502 CPU 에뮬레이터를 구현한 dbreunig/nesformer 공개
Drew Breunig은 Divyansh Agrawal의 qwenputer에서 영감을 받아 Nintendo Entertainment System의 6502 CPU를 에뮬레이션하는 작동 시스템을 Qwen3.5-4B 모델의 가중치 안에 구현했다. 이 시스템으로 Super Mario Bros 같은 NES ROM을 Qwen 내부에서 실행할 수 있으며, 속도는 매우 느리다. Breunig은 Hacker News 댓글에서 이 시스템을 만들 때 사용한 Opus 5.5 프롬프트를 공개했다. 프롬프트는 qwenputer 글과 관련 소스 코드를 읽고, FPGA로 NES 칩과 RAM을 에뮬레이션하는 방식(MiSTer)을 같은 기법으로 재현할 수 있는지 탐색하라는 내용이었다. 이어서 재미로 만들어 보자며, 속도가 느려도 괜찮고 가중치와 ROM을 지정해 실행하는 CLI가 있으면 된다고 요청했다. Opus는 Christopher Pow가 15년 전 공개한 NES CPU 적합성 테스트 모음(nestest)을 찾아 사용한 것으로 나타났다.
모델이 스스로 자기 업데이트를 지시하는 학습 방식: SEAL과 Nested Learning
대화 중 새 지식을 써도 세션이 끝나면 사라질 수 있어, 경험이 모델을 어떻게 바꿀지와 그 결정을 누가 내리는지가 지속 학습의 핵심이다. SEAL은 모델이 스스로 셀프 편집을 생성·적용하고, 업데이트된 모델의 개선 정도로 강화학습을 받도록 해 한 지식 설정에서 질의응답 정확도를 32.7%에서 47.0%로 끌어올렸다고 소개된다. 기사는 문맥 내 기억, 외부 메모리, 파라미터 업데이트를 구분해 기억과 학습은 서로 다른 작업이라고 설명한다. 또한 학습 예시 한 건을 고르는 일이 사실상 연산에 대한 선택이라고 보고, LoRA가 무엇을 해결하고 무엇을 해결하지 못하는지 짚는다. 이어서 여러 시간 척도에 걸쳐 적응을 분산하는 Nested Learning과 Titans를 다루며, 지속 학습자가 모두 관리해야 하는 치명적 망각 문제를 언급한다. 원문 자료가 말하는 것은 특정 API를 가르친 코딩 어시스턴트 예시처럼, 대화 중 문서를 잘 활용하더라도 새 세션에서 그 학습이 사라질 수 있다는 점이다.
AI 기업의 자금 조달 압박: GPU·데이터센터 비용을 신용이 메우는 구조와 대출 기관의 선별 심화
AI 기업은 매출이 비용을 덮기 전에 GPU, 건물, 전력 비용을 먼저 치러야 하며, 이 간극을 신용이 메운다. 최근 대출 기관은 어떤 약속에 자금을 댈지 점점 더 까다롭게 고르고 있다. 기사는 채권, 사모신용, 프로젝트 법인을 통해 자금이 AI 인프라로 흘러가는 경로를 추적한다. 기사는 건설과 전력 공급 지연, 노후 하드웨어, 고객 계약 기간보다 긴 대출 만기, 소수 고객에 대한 집중, 높아진 자금 비용을 자금 조달이 어려워지는 이유로 든다. 사례로는 Meta의 합작투자와 지분 조달 혼합, SpaceX의 xAI GPU 임대 약속이 제시된다. 기사는 현금흐름이 부채에 내장된 일정에 미치지 못하면 연결된 공급사, 고객, 금융사로 피해가 증폭되는 약세 시나리오와, 강한 스폰서와 지분 완충, 여전히 쓸모 있는 구세대 칩이 자금 흐름을 유지하는 강세 시나리오를 함께 제시한다. 저자는 신용이 누가 인프라를 지을 수 있을지를 점점 더 결정하게 될 것이며, 핵심 질문은 현금 회수, 잔존 원금, 계약 갱신, 공사가 지연될 때 누가 비용을 부담하는지라고 본다.
NVIDIA, 원자 시뮬레이션용 머신러닝 인터아토믹 포텐셜의 텐서 코어 성능 활용법 소개
NVIDIA 기술 블로그는 분자와 소재의 거동을 이해하기 위한 원자 단위 시뮬레이션을 다룬다. 기사는 이 시뮬레이션이 정확도와 비용 사이의 트레이드오프를 가진다고 설명한다. 밀도범함수이론(DFT) 같은 양자역학적 방법은 정확한 에너지와 힘을 제공하지만, 대규모 시스템이나 장시간 계산에는 계산 비용 때문에 사용이 제한된다는 점을 짚는다.
Microsoft Research, 코딩 에이전트 실패 원인 분석·자가 개선 에이전트 프레임워크 ForkPilot·TeleTune 등 소개
Microsoft Research Focus 제97호는 코딩 에이전트의 성공과 실패 요인을 분석하는 CABRA 프레임워크, 자가 개선형 에이전트 프레임워크 ForkPilot, 사용자 활동 로그로 에이전트 스킬을 학습하는 TeleTune 등 최신 연구를 소개했다. 개발자가 에이전트를 더 안정적이고 효율적으로 운영하는 데 참고할 만한 내용이다. ForkPilot은 여섯 개 벤치마크와 주요 AI 모델에서 테스트되었으며, 기존 최고 수준 방법과 견줄 만한 성능을 보이면서 AI 처리 요구량을 최대 59%까지 줄였다고 기사는 전했다. CABRA는 코딩 과제를 처음부터 생성해 복잡도를 통제된 방식으로 높이고 에이전트가 특히 어려워하는 기술을 짚어낸다. 수천 개의 생성된 과제에서 에이전트는 도구를 사용해 문제를 해결하는 경우가 많았지만, 익숙하지 않은 코드베이스를 이해해야 할 때는 여전히 어려움을 겪었다고 한다. 기사에 따르면 이는 코드를 수정하는 것보다 기존 코드를 이해하는 능력이 더 효과적인 코딩 에이전트 개발의 가장 큰 걸림돌 중 하나임을 시사한다. TeleTune은 사용자 활동 로그에서 재사용 가능한 스킬과 워크플로를 학습하고, 행동 순서에 연결된 작업 목표도 추론한다. 기사는 소프트웨어와 브라우저 작업 평가에서 TeleTune이 기존 접근법을 앞섰다고 밝혔다.
가중치 변화량 대비 효과를 재는 'leverage' 지표로 본 사후 학습과 사전 학습의 차이
arXiv 논문은 가중치 업데이트 한 단위가 얼마나 행동을 바꾸는지 재는 지표 leverage를 도입했다. 이 지표는 업데이트의 Fisher 이차형식을 같은 크기의 무작위 방향과 비교해 구한다. Olmo-3, Tülu-3, Zephyr, OLMo-2 체크포인트를 측정한 결과, 사전 학습은 무작위 방향 수준이었고 DPO는 최대 23,000 수준이었다. 논문은 사전 학습 구간(3만~100만 스텝)의 업데이트가 텍스트 산문에서 같은 크기의 무작위 방향보다 더 큰 영향을 주지 않는다고 보고한다. 이는 SGD를 잡음이 섞인 이차 모델로 설명하는 예측과 일치한다고 밝혔다. 학습 정밀도도 다뤘다. fp32 마스터 가중치 없이 bf16 파라미터로 학습하면 좌표의 36~99%가 고정되고 leverage가 최대 7배까지 떨어진다고 한다. 또 DARE(무작위 drop-and-rescale)의 상대적 손상을 keep rate p에 대해 (1-p)/(p·ρ_sign)으로 예측하는 법칙을 제시했고, DARE가 성공하는 구간에서 측정치와 2배 이내로 맞는다고 보고했다.
ThinkJev, 언어 모델 객관식 판단에 생각 단계를 선택 적용하는 빠른·느린 2단계 시스템
ThinkJev는 하나의 오픈 하이브리드 사고 모델에서 빠른 System 1(즉시 응답)과 느린 System 2(생각 후 응답)를 구성해, 닫힌 선택지 중 하나를 고르는 판단에 생각 비용을 필요한 경우에만 쓰도록 한다. 두 시스템은 같은 선택지 문자의 확률을 읽어 같은 기준으로 비교한다. 기사에 따르면 산술, 계수, 날짜 비교처럼 여러 단계가 필요한 판단은 한 번의 순전파로 확률을 읽으면 자주 틀리고, 생각을 먼저 하게 하면 오류가 대부분 줄지만 결정당 밀리초 대신 수 초가 든다. System 2는 System 1과 같은 캐시된 프롬프트에서 생각을 이어가므로 에스컬레이션할 때 중복 작업이 없다. 목표 오류율 5% 기준으로 Qwen3.5-27B는 테스트 결정 8359개 중 24.5%를 System 1만으로 답했고 실제 오류율은 3.9%였다(Qwen3.5-4B와 9B는 각각 6.5%, 0.0%). 나머지 결정은 답이 확신에 이르면 생각을 멈추는 방식으로 81.6% 정확도를 기록했으며, 항상 생각하는 방식의 82.7%와 비교해 생각 토큰은 72%만 썼다. 공개 벤치마크 JevBench의 공개 항목에서 Qwen3.5-27B는 29.4%에서만 생각하며 정확도는 비교한 두 생각형 API와 구별되지 않았다(탐색적 결과). 코드와 데이터 생성기는 GitHub에 공개되어 있다.
SAE 특징 설명을 읽지 않고도 점수화되는 자동 해석 가능성 평가의 구조적 지름길
sparse autoencoder(SAE) 특징 설명을 자동 해석 가능성 방식으로 평가할 때, 설명을 읽지 않아도 높은 점수를 받을 수 있는 구조적 지름길이 존재한다는 연구다. Neuronpedia의 GPT-2 small 특징 500개 기록에서 중심 토큰 표시 규칙만으로 균형 정확도 0.979를 기록했다. 연구진은 표준 파이프라인이 만든 평가 데이터가 설명 내용과 무관하게 채점될 수 있음을 보였다. Neuronpedia의 저장된 fuzzing 실행 결과에서 활성화 예시의 91.3%가 중심 토큰에 피크가 오도록 잘려 있었고, 중심 토큰이 표시되면 '예'라고 답하는 규칙이 균형 정확도 0.979에 도달했다. 저장된 LLM 채점기는 0.838이었고, 표시 개수만 보는 규칙도 0.969였다. OpenAI의 시뮬레이션 벤치마크에서는 상위 활성화 시퀀스가 먼저 나열되는 구조 때문에, 처음 다섯 토큰에서 활성을 예측하는 규칙이 풀링 상관 0.227을 얻어 GPT-4 시뮬레이터의 0.160보다 높았다. 자연 텍스트에서 무작위 오프셋으로 자른 창에서는 모든 특징에 공통으로 적용되는 최선의 고정 오프셋 사전 규칙이 0.015에 그쳤다.
Unsloth, DeepSeek-V4.1-Flash-1017 Dynamic v3.1 GGUF 공개 및 GSQ-RCO GGUF와의 벤치마크 비교
Unsloth가 DeepSeek-V4.1-1017 Dynamic V3.1(preview) GGUF를 공개하며, 7개 벤치마크에서 같은 크기 대비 정확도를 더 많이 유지한다고 밝혔다. 이 모델은 128GB RAM 또는 통합 메모리 기기에서, 엔그램(engram) 오프로딩을 쓰면 64GB RAM에서도 실행될 수 있다고 한다. Unsloth는 AIME25, LiveCodeBench, GPQA Diamond, Aider Polyglot 등에서 Unsloth Dynamic V3.1이 ISTA의 GSQ-RCO GGUF보다 거의 모든 지표에서 높다고 밝혔다. 각 벤치마크는 최소 3회(AIME25는 16회) 실행해 평균을 냈다. 이전 버전인 v3도 대부분 지표에서 ISTA보다 나았다고 한다. 표에 따르면 UD-Q8_K_XL은 508.4GB, UD-Q2_K_XL은 334.8GB, UD-IQ1_S는 233.0GB이며, Avg of 6 기준으로 UD-IQ1_S는 83.53, GSQ-RCO IQ1_M은 81.78이다. Unsloth는 ISTA가 보고한 결과를 재현하지 못했다고 밝혔다. 가장 큰 차이는 AIME25로, ISTA는 기준선 대비 100% 정확도 회복을 주장했지만 Unsloth의 측정에서는 약 91.88%였다. KLD가 정확도의 신뢰할 만한 지표인지에 대한 문의도 있었다고 언급했으며, 저비트 양자화 모델이 비양자화 모델보다 다소 길게 추론한다는 점과 이를 개선할 계획도 밝혔다. 추가 결과는 다음 주에 공개될 예정이라고 한다.
Elorian의 시각 추론 모델 Glimpse, DecoyCount 벤치마크에서 50.48% 기록
Elorian이 첫 시각 추론 모델 Glimpse를 공개했고, 함께 발표한 DecoyCount 벤치마크에서 Glimpse는 내부 테스트 기준 50.48%를 기록해 비교된 모델 중 유일하게 50%를 넘었다고 밝혔다. 기사는 프런티어 모델들이 DecoyCount에서 모두 50% 미만이었다는 점을 함께 전한다. DecoyCount는 언어 모델이 실제로 객체를 세는지, 아니면 시각적 지름길과 대체 휴리스틱에 의존하는지를 검사하는 벤치마크로, Elorian이 AI 데이터 회사 Mercor와 함께 발표했다. 관련 논문에 따르면 프런티어 모델 중 최고점은 GPT-6 Astra의 43.17%였고, Gemini-3.8-flash는 32.71%, Qwen3.8-max는 28.31%, Claude-Fable-5.1은 25.22%였다. Glimpse는 1,660개 항목에서 단일 실행으로 50.48%를 얻었으며, 논문의 여섯 모델은 보고된 설정에서 각각 세 번 실행한 평균값이라는 차이가 있다고 Dai는 설명했다. Dai는 평가 이미지와 텍스트를 학습에서 제외했고 오염 검사에서 확인된 중복은 없었다고 답했다. DecoyCount는 시각과 추론을 함께 검사하는 방식이라고 Dai는 설명했다. 거울 앞의 사과 예시처럼 모델이 사과를 아예 놓치는 시각 문제인지, 사과와 반사상을 둘로 세는 추론 문제인지를 최종 숫자만 보는 기존 벤치마크와 달리 구분할 수 있다는 것이다. Glimpse의 결과는 에이전트나 도구 하네스 없이 단일 실행으로 나온 값이라는 점도 기사에 명시되어 있다.
The Trinity: 멀티모달 에이전트를 위한 능력 기반 재귀적 자기개선 프레임워크
arXiv에 공개된 The Trinity는 세계 생성과 하네스(Harness) 진화를 Creator, Explorer, Evolver 세 역할로 결합한 재귀적 자기개선 프레임워크다. 서로 다른 모달리티와 표면 형태의 과제들이 같은 기저 능력 요구사항을 공유한다는 점을 활용해 과제를 계층형 능력 트리로 재구성한다. Evolver는 검증된 실행 궤적을 바탕으로 과제 분류의 기준을 표면적 카테고리에서 공유 요구사항으로 옮기고, 원래의 과제 트리를 능력 트리로 재편성한다. Creator는 같은 노드에 속한 이질적 과제들의 공통 요구사항을 단순화되고 검증 가능한 시뮬레이션 세계로 추상화하며, 원래 과제에 대한 평가로 전이 성능을 측정한다. Explorer는 선택적 상속을 통해 재사용 가능한 능력 모듈을 점진적으로 진화시키고, 검증된 업데이트가 고정된 위상 안에서 누적되는 하네스 트리를 형성한다. 진화된 하네스는 28개 학습 벤치마크에서 평균 성능을 34점, 두 개의 실세계 구현(embodied) 과제를 포함한 18개 미관찰 벤치마크에서 26점 향상시켰다고 보고되었다. 저자들은 하네스들이 서로 다른 능력에 특화된다는 점을 근거로, 공개된 과제 정보를 이용해 호환 가능한 모듈 구성을 트리에서 고르는 Capability-Aware Harness Router를 함께 제안했다.
StruPO, 구조 인식 기반 텍스트-이미지 프롬프트 편집 정책 학습
StruPO는 장면 그래프를 공유 표현으로 사용해 프롬프트를 편집하는 구조 인식 프롬프트 편집기다. 스타일 재작성 과정에서 객체 속성과 관계가 약해지는 문제를 줄이고, 이미지 기반 감독 신호로 재사용 가능한 편집 정책을 학습한다. 기사에 따르면 StruPO는 보존해야 할 요소를 장면 그래프로 드러내고, 삭제·재배열·삽입으로 토큰 단위 편집을 수행한다. 불확실한 그라운딩은 부드러운 보상 형성으로 처리하며, 각 편집마다 여러 이미지를 평균 낸 뒤 그룹 상대 이득을 계산한다. 실험은 서로 겹치지 않는 3개의 2K 프롬프트 테스트 세트와 4개의 고정된 생성 백본에서 진행되었고, 학습형 프롬프트 최적화기, 반복적 구조 피드백, 확산 모델 미세 조정, 추론 시점 어텐션 제어와 비교되었다. 저자들은 충실도와 미적 품질의 상충 관계가 개선되었고 관계 충실도에서 일관된 향상이 있었다고 보고했다. 그래프 캘리브레이션 이후 한 번의 패스로 최적화된 텍스트를 생성하며 반복적 비평-재작성 루프는 필요하지 않다고 한다.
DeepMind, 더 사실적인 물리와 인간 표현을 약속한 월드 모델 Genie 4 공개
Google DeepMind가 Genie 3의 후속인 월드 모델 Genie 4를 선보였다. 기사에 따르면 Genie 4는 거의 모든 면에서 Genie 3를 개선했으며, Google에 돈을 지불하면 머지않아 사용해 볼 수 있을 가능성도 언급됐다. 월드 모델은 사전 렌더링된 환경이나 상호작용 요소를 따로 프로그래밍하지 않고, 사용자가 원하는 것을 말하면 실시간으로 프레임 단위 경험을 생성하는 방식이다. DeepMind는 월드 모델이 인공 일반 지능(AGI)으로 가는 핵심 요소라고 설명했다. 이 기술은 물리 로봇을 위한 무한한 학습 환경을 만들거나 창작 분야의 빠른 프로토타이핑 경로를 열 수 있다고 주장했다. 다만 이를 실용화하려면 모델이 원하는 장면을 정확하게 시뮬레이션해야 하며, Genie 4의 개선점 일부는 업데이트된 Gemini 모델 덕분이라고 기사는 전했다.
AI 도움이 절약하는 시간을 측정하는 방법: 시계 기준 대 원장 기준, METR 재분석과 리뷰어 실험
이 논문은 AI 보조가 시간을 아낀다는 말이 무엇을 뜻하는지 묻는다. 시계에 찍힌 시간만 보는 관점 대신, 작업이 놓친 결함까지 함께 계산하는 원장 관점을 제안한다. 저자는 METR 개발자 연구 공개 데이터를 다시 분석해 같은 246개 이슈에서 19% 또는 24%의 속도 저하를 확인했다. 저자는 시간 절약과 초과 유출 결함을 모델 없이 정의하고, 이 둘로 손익분기 결함 비용이라는 결정 수치를 만든다. 검수 모델에서 모델 오류율이 충분히 낮아지기 전까지 검수자의 결함 유출률은 모델 성능과 무관하며, 검수 시간은 모델 오류율의 로그에 비례해 늘어난다고 설명한다. 과신은 시계상의 분을 얻지만 전체 분 손실은 더 크다는 것이 핵심 주장이다. GDPval의 모든 산출물을 검토하는 워크플로에서는 검토 시간만으로 GPT-5의 속도 향상이 3.6배로 제한된다고 보고했다. 사전 등록된 소규모 실험에서는 SEC 제출 서류로 만든 브리프를 AI 리뷰어가 검토했는데, 드래프터의 실제 오류율을 알려주면 리뷰어는 오류율이 높을수록 더 많이 검토했지만 전부 아니면 전무 방식이었다. 오류율이 10배 낮다고 알려주자 9개 수치 중 7개를 덜 검토했고 브리프의 22.5%에서 틀린 수치가 통과했다.
고정된 세계 모델의 불확실성 보정: 배포 정책 변화에 따른 가중 컨포멀 예측 집합
배포 정책이 바뀌면 세계 모델의 물리적 전이 메커니즘과 예측기는 그대로여도 불확실성 보정이 깨질 수 있다. 이 논문은 조건부 메커니즘이 같다는 가정 아래 정책 개입을 전이 확률 비 w(X)=dQ_X/dP_X로 식별하고, 가중 컨포멀 보정으로 목표 분포의 커버리지를 맞추는 방법을 제시한다. 정책 제어 동역학에서 이 비율은 상태 점유 항과 행동 성향 항으로 인수분해된다. 추정된 비율 ŵ를 쓰면 목표 분포에서의 커버리지는 1-α-TV(Q,Q̂) 이상으로 보장되며, 이는 1-α-E_P|w-ŵ| 이상으로 다시 쓰인다. 원천과 목표 도메인을 구분하는 분류기의 population log-loss 후회(regret) 역시 같은 비율 오차를 상한한다. 실험은 공개된 DINO 특징 기반 세계 모델과 실제 Franka 궤적을 사용했다. 가장 강한 통제된 상태-행동 이동 상황에서 일반 90% 컨포멀 집합은 55.0%만 커버했고, 오라클 비율 보정은 91.0%, 학습된 비율 보정은 90.9%를 커버했다. 학습된 대리 모델은 목표 분포와의 전체 변동 거리가 0.9% 이내였다. 저자들은 finite-support 대수 및 인과 항등식을 Lean 4로 기계 검증했다고 밝힌다.
OmniBrain-0, 조작과 내비게이션을 하나의 경량 에이전트 모델로 통합한 구체화된 지능 연구
OmniBrain-0은 로봇의 조작(manipulation)과 내비게이션을 하나의 공유 고수준 의사결정 모델로 조율하는 경량 통합 구체화 에이전트다. 작업 이해, 계획, 진행 추적, 피드백 기반 복구를 한 모델에 통합했다. 학습은 구체화 사전학습, 도메인 특화 에이전트 증류, 다중 교사 온폴리시 증류(MOPD)로 이어지는 단계적 프레임워크로 진행된다. 강력한 교사 모델의 상호작용 경험을 조작 및 내비게이션 전문가에게 증류하고, 그 의사결정 능력을 OmniBrain-0으로 통합한다. 통합은 도구 인터페이스 수준이 아니라 학습된 의사결정 모델 내부에서 일어난다고 설명한다. 또한 Meta-Agent가 실행 근거를 세분화된 루브릭, 단계별 리마인더, 검증된 궤적으로 바꾸는 데이터 플라이휠인 루브릭 기반 재귀적 자기 개선(RSI)을 도입했다. 평가는 LIBERO-Pro, LIBERO-Plus, RoboCasa365, RoboTwin 2.0, R2R-CE Val-Unseen 및 여러 실제 조작 과제에서 수행되었으며, 폐쇄형 교사 모델 대비 추론 및 실행 오버헤드가 크게 낮으면서도 교차 도메인 과제 성능을 유지했다고 보고한다.
KORA, AI 추론 호출 전 결정론적 경로를 먼저 시도하는 실행 제어 구조 제안
KORA는 AI 애플리케이션이 모델 추론 여부를 판단하기 전에 모델을 호출하는 기존 방식을 바꾸는 결정론적 우선(deterministic-first) 실행 제어 계층이다. 요청을 작업 경로로 표현하고, FAQ 조회·정책 검사·스키마 검증 같은 결정론적 경로를 먼저 시도한 뒤 필요할 때만 모델 후보 경로로 넘긴다. 100개 작업으로 구성된 결정론적 위주 벤치마크에서 KORA 제어 실행은 단순 직접 호출 기준선과 비교해 시뮬레이션된 모델 호출 100회 중 80회를 피했고, 결정론적 하위 집합에서는 불일치가 0건이었다. 작업 범주에는 FAQ 조회, 정책·규칙 검사, 스키마·형식 검증, 결정론적 변환과 함께 모델이 필요한 소수의 모호하거나 생성형 작업이 포함됐다. 별도의 합성 고객지원 로컬·무네트워크 검증 워크로드에서는 경로 측정과 회피된 모델 호출 집계를 보였다. 저자들은 이 결과가 문서화된 워크로드에서 제한된 모델 호출 감소와 검증 가시성을 뒷받침한다고만 밝혔다. 실제 운영 환경 동작, 실제 제공자 결과, 에너지 효과, API 비용 절감, 전반적 우월성은 입증되지 않았다고 명시했다.
Qwen3.5-4B 모델 가중치 안에 32비트 RISC-V CPU를 구현한 Qwenputer 프로젝트
r/LocalLLaMA에 올라온 글에 따르면, 한 개발자가 Qwen3.5-4B 모델의 가중치 안에 32비트 RISC-V CPU를 직접 구현해 모델이 명령어를 내부적으로 실행할 수 있게 만든 'Qwenputer' 프로젝트를 공개했다. 작성자는 이것이 도구 호출(tool calling)과 컴퓨터 사용(computer use)에 함의를 가질 수 있다고 언급했다. 프로젝트는 설명 글(divagr.com/blog/qwenputer), Hugging Face 모델 저장소(divagr1925/Qwen3.5-4B-Qwenputer), ModelScope 라이브 데모로 함께 공개되었다. 글의 제목과 작성자 설명은 RISC-V 명령어를 모델 내부에서 실행한다는 점에 초점을 맞춘다.
Lipi-Ghor, 885시간 규모 다화자 벵골어 음성 말뭉치와 구축 파이프라인 공개
벵골어 음성 연구용 공개 자원이 짧은 낭독·크라우드소싱 음성에 머물러 있다는 문제를 다룬 연구로, 998개 YouTube 영상 885시간 분량의 Lipi-Ghor 말뭉치를 소개한다. 이 말뭉치는 화자 분리(diarization)와 장문 오디오 주석을 함께 제공하는 첫 벵골어 음성 자원이라고 밝혔다. Lipi-Ghor는 596개 채널에서 가져온 998개 영상으로 구성되며, 오디오북·드라마·종교 설교·뉴스·지역 방언 등 17개 도메인을 포함한다. 각 녹음은 화자(Speaker), 음성(Speech), 전사(Transcription), 타임스탬프(Timestamp)로 이루어진 SSTT 형식으로 주석이 달렸고, 자동 화자 분리 결과와 벵골어 YouTube 자막 트랙을 결합해 만들었다. 연구진은 자막 기반 정답이 noisy하다는 점을 감안해 17명의 자원봉사 주석자가 30시간 동안 human-in-the-loop 방식으로 교정한 골드 평가 분할도 공개했다. 네 가지 널리 쓰이는 ASR 모델을 zero-shot과 미세조정 조건에서 벤치마크했으며, 네 모델 모두 감정 표현이 강한 음성, 방언, 장문 콘텐츠에서 성능이 일관되게 떨어졌다. 원본 제작물은 CC-BY-4.0으로 배포되고, 자막 파생 전사문은 연구 목적으로만 제공되며 원본 오디오는 재배포하지 않는다.
언어모델의 숫자 선택 편향: 인스트럭션 튜닝이 라운드 넘버 회피와 끝점 회피를 강화한다
arXiv 논문은 무작위 숫자를 요청했을 때 언어모델이 1부터 N까지 각 정수에 부여하는 확률을 샘플링 오차 없이 계산했다. 18개 오픈 웨이트 모델 계열과 29가지 디코딩 설정을 평가했으며, 기본(base) 체크포인트와 인스트럭션 튜닝 체크포인트를 짝지은 15쌍 모두에서 튜닝 후 분포가 덜 균일해졌다. 튜닝된 체크포인트는 10의 배수 같은 라운드 넘버를 거의 완전히 피했고, 기본 체크포인트는 끝점을 제외하면 라운드 넘버를 피하지 않았다. 기본 체크포인트가 1과 N을 내부 비율의 0.30~0.60 수준으로 반환한 반면, 튜닝 체크포인트는 끝점을 거의 반환하지 않았다. 홀수 선호는 N=100에서만 튜닝 체크포인트 전반에 일관되게 나타났다. 튜닝이 모델들에 공통된 새로운 선호 정수를 만들지는 않았다. N이 10을 넘는 경우 어떤 최빈 정수도 튜닝 조건의 42% 이상에서 공유되지 않았고, 정수 17의 확률은 15쌍 중 10쌍에서 상승하고 5쌍에서 하락했다. 이 집중 현상은 모델 고유의 분포에 존재하며, 온도 1.0에서 top-p 0.95 핵 샘플링을 적용하면 총변동거리(total variation distance)가 중앙값 기준 0.035 늘어났다.