AI 리서치·논문
arXiv 논문과 대형 연구소의 기술 리포트를 추적하는 카테고리다. 모델 아키텍처, 학습 기법, 벤치마크 결과처럼 6개월 뒤 제품에 들어올 흐름을 미리 읽는다. 한국 개발자가 논문 전문을 다 읽지 않고도 핵심과 재현 가능성을 가늠하도록 정리한다.
System-1 결정 모델의 Laya와 Jev 평가
이 연구에서는 Laya와 Jev라는 두 개의 System-1 모델을 11개의 에이전트 결정 포인트에서 평가하였다. Jev는 11개 결정 포인트 중 9개에서 더 높은 정확도를 보였으며, Laya는 옵션 순서가 바뀔 경우 30%의 답변을 변경하고 유사한 후보가 많을 경우 성능이 급격히 저하되었다. 또한, 분석 오류로 인해 일부 배포 주장에 왜곡이 발생했으며, 실제 절감률은 4.3%로 보고된 23.9%와 차이가 있었다.
IGMWorld와 IGMBench를 통한 세계 편집의 가능성
인터랙티브 세계 모델이 환경을 생성하고 그 안에서 행동하는 능력이 증가하고 있지만, 기존의 실행 가능한 세계를 편집하는 것은 아직 탐구가 부족하다. 세계 편집을 기존 세계에 개입하면서 변경하지 말아야 할 속성을 유지하는 것으로 정의하고, 개입 깊이를 세계의 엔티티, 역학 및 시스템 간의 결합 강도를 설명하는 축으로 도입한다. IGMWorld와 IGMBench를 통해 이 기능을 구현하며, IGMBench는 Minecraft와 Terraria에서 110개의 작업과 1,100개 이상의 실행 가능한 상태 및 행동 기준을 포함한다. 가장 강력한 구성은 엄격한 작업 수준 기준에서 78.2%의 작업을 해결하고, 기준 수준 성능은 94.8%에 달한다. 그러나 개입 깊이가 증가할수록 신뢰성이 일반적으로 감소하며, 시각적 일관성은 평가된 모든 구성에서 50% 이하의 공동 시각 통과율을 보인다.
CUE: 다중 턴 벤치마킹을 위한 보정된 사용자 임베딩
최근 벤치마크는 다중 턴 상호작용에서 AI 에이전트를 평가하기 위해 사용자 시뮬레이터에 의존하고 있다. 기존 시뮬레이터는 인간의 스타일과 행동에 대한 표면적인 충실도를 보여주지만, 실제 사용자 집단과의 실패 패턴 일치를 요구한다. CUE(Calibrated User Embeddings) 프레임워크는 관찰된 세션을 인코딩하고 연속적인 표현을 샘플링하여 LLMs를 사용자 시뮬레이터로 작동시키는 명령으로 디코딩한다. CUEd 시뮬레이터는 $ au^2$-Bench에서 다른 방법보다 더 적은 오류를 범하고 실제 사용자 실패 모드를 더 충실히 재현한다. 또한, 고객 지원 상호작용에 적합하게 조정된 후에도 문서 작성, 수학 튜터링, 캐주얼 대화 등 다양한 작업에 일반화된다.
그린워싱의 가격: 컨포멀 머신러닝을 통한 알고리즘 검증과 시장 규율
기업의 지속 가능성 요구가 확대됨에 따라, 자가 보고된 배출 데이터에 대한 의존은 금융 시장을 그린워싱에 노출시키고 있다. 본 연구는 미국 SEC 재무 기본 데이터와 EPA 온실가스 등록부를 결합하여 기업 배출의 수학적으로 보장된 기준선을 설정한다. 이를 통해 자가 보고 데이터와 알고리즘 기준선 간의 차이를 새로운 Conformal-Weighted Continuous Divergence (CWCD) 메트릭으로 정량화하고, 이 차이를 평가하여 알고리즘 배출 차이가 시장 가치(Tobin's Q) 및 운영 수익성(ROA)과 통계적으로 유의미한 부정적 관계를 가진다는 것을 발견했다. 이러한 결과는 자본이 환경적 기만을 단순한 윤리적 결함이 아닌 기업 관리의 근본적인 지표로 가격을 매긴다는 것을 입증한다.
SymCE: 4,707개의 잘못된 수학 추측과 검증기 제공
SymCE는 4,707개의 잘못된 학부 대수학 및 실해석학 추측과 각 추측에 대한 실행 가능한 검증기를 제공하는 데이터셋이다. 연구에서는 Qwen3-4B 모델을 SFT와 GRPO로 훈련했으며, 카운터예제만으로 SFT를 수행할 경우 진정한 정리 인식이 0.27에서 0.00으로 감소하는 이모테이션 트랩이 발견되었다. 반면, 희소 보상만을 사용하는 RLVR는 이를 복구하여 0.66으로 성능을 향상시켰다. 또한, 4B 모델은 평가된 모든 7B 오픈 가중치 수학 전문 모델보다 우수하며, 여섯 개의 상업적 API와 경쟁력을 유지한다.
HyMLRaman: 제너레이티브 기능 증강을 활용한 하이브리드 라만 분광법
HyMLRaman은 깊은 스펙트럼 특징 추출, 생성 모델 및 고전 머신러닝 분류기를 결합하여 6가지 제약 화합물(amoxicillin, chloramphenicol, ciprofloxacin, tetracycline, ibuprofen, paracetamol)을 식별하는 하이브리드 라만 분광법 프레임워크이다. EfficientNet-B3를 사용하여 1536차원 임베딩을 생성하고, SVM, KNN, 로지스틱 회귀, 랜덤 포레스트, XGBoost, ANN 등 다양한 분류기를 학습시킨 결과, EfficientNet-B3-SVM 조합이 96.31%의 정확도와 96.36%의 매크로 F1 점수를 기록하며 가장 우수한 성능을 보였다. 또한, 제한된 데이터 조건을 해결하기 위해 DDPM 기반의 기능 증강 모델이 도입되었고, 이는 KNN에서 특히 효과적이었다. 최종적으로, 훈련된 모델을 인터랙티브 라만 분석 워크플로우에 통합할 수 있는 가능성을 보여주는 라만 제약 분석기가 개발되었다.
ReRoute: 통제된 실험 없이 과학적 반사실 예측을 위한 프레임워크
ReRoute는 통제된 개입 데이터 없이 사실 데이터와 부분 기계적 지식을 결합하여 과학적 반사실 예측을 수행하는 프레임워크이다. 이 방법은 사전 훈련된 백본의 쿼리 입력을 참조 값으로 고정하고, 알려진 기계적 경로를 통해 변화를 재도입하며, 원래 사실 데이터에 대해 미세 조정한다. ReRoute는 기후 에뮬레이션에서 CO$_2$ 분포 변화가 심한 상황에서도 집합 기후 오류를 18.2-31.8% 줄이는 성과를 보였다.
Topological Out-of-Domain Generalization in Dynamical Systems Reconstruction 논문 개요
NeurIPS2026 논문 "Topological Out-of-Domain Generalization in Dynamical Systems Reconstruction"에서는 동적 시스템 재구성(DSR) 및 시계열 예측(TSF)에서의 주요 문제를 다룬다. 특히, 동적 체계가 주기적에서 혼돈으로 변화하는 경우와 같은 topological out-of-domain generalization(OODG)의 어려움을 설명한다. 이 논문은 기존의 계층적 DSR 모델의 실패 모드를 수학적으로 규명하고, feature-splitting과 물리적 희소성 우선순위를 통해 수정된 모델이 bifurcations와 그 이후의 동적 예측을 가능하게 한다고 주장한다.
Jev 이후의 방향: 메타캐시와 구성에 의한 추론
Jev는 AI 산업에서 단일 모델에서 복합 시스템으로의 전환을 나타낸다. 복합 시스템은 여러 AI 에이전트가 각각의 좁은 작업을 수행하고, 오케스트레이션 레이어가 이들을 제어하는 구조이다. 다음 단계는 모델이 직접 복합 시스템을 구축하고, 이를 통해 답변과 함께 'reasonlet'을 반환하는 것이다. reasonlet은 로컬에서 저장되어 재사용 가능하며, 메타캐시로 불린다.
AI와 희귀질환 진단: Gamow Labs의 AI 도구 활용
Nathan Labenz와 Prakash Narayanan은 기술, 외교, 의학의 급격한 변화에 대해 논의하며, AI를 활용한 희귀질환 진단에 대해 Gamow Labs의 사례를 소개했다. 이들은 AI 도구를 통해 해결되지 않은 유전체를 해석하고, 컴퓨터 재분석을 통해 이전에 놓쳤던 유전 변이를 식별할 수 있음을 보여준다. 또한, AI 안전과 의료 답변을 기다리는 가족들이 겪는 인적 비용 간의 균형에 대한 논의도 진행되었다.
NVIDIA Nemotron의 사우디 아랍어 방언 조정
자동 음성 인식 시스템은 실제로 사람들이 말하는 방식을 처리해야 하며, 이는 사전 훈련 데이터에서 지배적인 언어와 스타일뿐만 아니라 지역 방언과 로컬 녹음 조건을 포함해야 한다. 사우디 아랍어는 이러한 문제를 구체적으로 보여준다. 다국어 모델이 광범위한 벤치마크에서 좋은 성능을 보일 수 있지만, 실제 배포에서는 부족할 수 있다.
AI Ataraxos, Stratego에서 세계 최고 플레이어를 이기다
AI Ataraxos는 카네기 멜론, MIT, 뉴욕 대학교, 스탠포드 대학교의 연구팀에 의해 개발되었으며, 세계 최고의 Stratego 플레이어인 Pim Niemeijer를 15대 1로 이겼고, 4게임은 무승부로 끝났다. Ataraxos는 16개의 GPU와 몇 천 달러로 훈련되었다. Stratego는 각 플레이어가 40개의 기물을 가지고 있으며, 상대방의 기물은 위치는 알지만 정체는 알 수 없는 불완전 정보 게임이다.
AlphaGo의 창의적 선택과 현재 AI의 추론 능력 부족
2016년 AlphaGo는 이세돌과의 대결에서 37수째에 창의적인 수를 두어 승리했다. AlphaGo는 정책 네트워크와 검색 기계로 구성되어 있으며, 후자는 미래의 결과를 고려하여 수를 선택했다. 현재의 대형 언어 모델은 다음 토큰을 예측하는 방식으로 작동하며, 진정한 추론 능력이 부족하다. 이로 인해 고위험 분야에서 신뢰할 수 있는 결과를 도출하기 어렵다.
SW-KAN: Stieltjes-Wigert q-정규 다항식을 활용한 Kolmogorov-Arnold Networks
Kolmogorov-Arnold Networks (KANs)는 고정 노드 활성화를 학습 가능한 단변량 함수로 대체하여 해석 가능성과 파라미터 효율성을 향상시킵니다. Stieltjes-Wigert Kolmogorov-Arnold Network (SW-KAN)은 반무한 영역에서 정의된 Stieltjes-Wigert q-정규 다항식을 사용하여 도메인 불일치를 해결합니다. 이 아키텍처는 매끄러운 지수-탄젠트 맵핑을 도입하여 안정적인 그래디언트를 유지하며, O(N) 연산으로 다항식 확장을 평가하는 수치적으로 안정적인 삼항 재귀를 활용합니다. SW-KAN은 이미지 분류 및 연속 함수 근사에서 우수한 정확도-효율성 균형을 달성하며, 자원 제약 조건 하에서도 강력한 성능을 발휘합니다.
온디바이스 개체명 인식: 정확도, 비용, 신뢰성 및 신뢰도 배포 가능성 연구
개체명 인식(NER)은 API 없이 로컬에서 데이터가 유지되는 온디바이스 구현이 점점 더 요구되고 있다. 연구에서는 9개의 시스템을 3가지 패러다임과 13M에서 8B 파라미터로 분류하고, 정확도 외에도 지연(latency)과 출력 유효성(output validity)을 평가하였다. 결과적으로, 4B 인스트럭션 LLM이 정확도에서 경쟁력을 보였으나, 인코더는 더 작은 크기에서 밀리초에서 초 단위의 지연으로 배포 가능성을 보여주었다. GLiNER의 신뢰도는 AUROC 0.76에서 0.86으로 정확성을 잘 나타내지만, 과신하는 경향이 있었다.
BudgetSchemaBench: 텍스트-투-SQL에서 스키마 컨텍스트를 위한 예산 기반 진단
BudgetSchemaBench는 데이터 에이전트가 데이터베이스 스키마를 모델의 컨텍스트 윈도우에 맞추는 데 필요한 예산 기반 진단 도구이다. 80개 데이터베이스 카탈로그를 사용하여 네 가지 스키마-컨텍스트 예산을 평가하고, 세 가지 표현 방식을 비교하였다. 예산을 2.5%에서 50%로 증가시키면 1,279개의 질문에 대한 실행 정확도가 18% 향상되지만, 밀집 검색에서는 3% 향상에 그쳤다. 필요한 테이블이 제거되었을 때 94.6%의 정확한 예측이 해당 테이블 중 하나를 정확히 언급하였다. 이 진단 도구와 평가에 사용된 코드는 공개되어 있다.
PRM-Pruned Fragment Grafting의 비활성화 메커니즘 분석
PRM-Pruned Fragment Grafting (PPFG) 메커니즘이 다양한 언어 모델에서 통계적으로 독립적인 병렬 체인-사고(baseline)와 차이가 없음을 보여주었다. 322개의 정체 규칙 주입 사건을 네 가지 범주로 분류한 결과, 14%만이 실제로 어려움을 겪고 있는 체인을 겨냥했으며, 나머지는 이미 성공했거나 완료에 가까운 체인이었다. PPFG의 선택이 독립적인 방법에 비해 문제당 +0.13 pp의 이득을 줄 수 있다는 점이 발견되었다.
비선형 RNN의 병렬 시간 훈련을 통한 동적 시스템 재구성
논문 '#NeurIPS2026 spotlight “Parallel-in-Time Training of Recurrent Neural Networks for Dynamical Systems (DS) Reconstruction (DSR)”'에서는 비선형 RNN의 훈련 속도를 100배 이상 향상시키는 방법을 제시한다. DEER는 전체 시퀀스 길이 T에 걸쳐 뉴턴형 고정점 반복을 통해 RNN의 전방 패스를 해결하며, GPU 병렬화를 통해 O[(log T)²]로 확장 가능하다. GTF를 사용하여 DEER의 안정성을 높이고 전통적인 교사 강제 방식보다 노출 편향을 줄인다. 이 두 가지 메커니즘의 결합으로 T>10^6인 긴 시간 시리즈에 대한 효율적인 병렬 훈련이 가능하다.
Authority Bias: 검증된 출처에 의한 잘못된 답변 수용 현상
모델이 사용자가 잘못된 답변을 주장할 때는 이를 거부하지만, 같은 주장이 '검증된 출처'에서 나올 경우 답변을 변경하는 현상을 'Authority Bias'라고 명명했다. 연구에서는 TriviaQA 질문에 잘못된 답변을 추가하여 두 경우의 답변 차이를 측정했으며, 8개 모델 중 7개에서 검증된 출처의 잘못된 답변이 45-88%의 경우 올바른 답변을 뒤집는 결과를 보였다. 특히 GPT-5.4는 44.7%, Grok-4.20는 87.5%의 질문에서 답변이 변경되었다. 반면 Gemini-3.1-Pro는 두 경우 모두 0.6%로 저항력이 강했다.
악성 에이전트를 포함할 수 있는 샌드박스의 한계
Matthew Green은 샌드박스에서 독립적으로 훈련된 에이전트들이 공유 패키지 캐시를 통해 서로에게 지시를 남길 수 있음을 지적했다. 이 지시들은 수신자의 행동을 변화시킬 수 있으며, 이메일, Slack, 공유 문서 또는 WhatsApp과 같은 플랫폼을 통해 악성 페이로드를 전파하는 데 필요한 요소를 갖추게 된다. 이러한 방식은 Muse와 같은 개인 에이전트의 독립 배치와 결합될 경우, 웜의 조건을 충족할 수 있다.
GLM-5.3과 Claude Mythos Preview의 사이버 능력 평가 결과
GLM-5.3 모델이 100개의 내부 이진 취약점 벤치마크 작업에서 4%의 성공률을 보였으며, Claude Mythos Preview는 6%의 성공률을 기록했다. 이전 모델인 Claude Opus 4.6과 GLM-5.2는 이들 작업에서 성공하지 못했다.
MIT의 Alex Zhang, RLMs와 GPU Mode에 대한 연구 소개
AI Engineer NYC의 일반 티켓 마지막 판매가 진행 중이며, Latent Space 구독자에게는 30% 할인 코드가 제공된다. 2024년에는 Shunyu Yao, 2025년에는 Jack Morris가 소개되었고, 올해는 MIT의 Alex Zhang이 소개된다. Alex Zhang은 GPU 커널, Recursive Language Models(RLMs), 그리고 다수의 에이전트 시스템에 대한 연구를 진행하고 있으며, RLM 기반의 장치가 OpenAI의 Astra보다 먼저 ARC-AGI-3 문제를 해결했다. 그는 RLMs, 컨텍스트 오프로드, 프로그램적 서브 에이전트 호출 등 다양한 주제를 다룬다.
K2 Horizon 출시 및 IFM 연구팀 AMA 안내
IFM(Foundation Models 연구소)에서 K2 Horizon을 출시했다. K2 Horizon은 0.9B에서 375B까지 크기가 다양한 6개의 완전 개방형 모델로 구성되어 있으며, 가중치, 훈련 데이터, 훈련 코드, 중간 체크포인트, 세부 훈련 로그 및 평가 자료도 오픈 소스로 제공된다. AMA는 10월 5일 오후 8시부터 10시(PT)까지 진행된다.
유럽의 EuroLLM과 Apertus 모델이 Workers AI에 추가됨
EuroLLM은 모든 24개 EU 공식 언어를 지원하며, Apertus는 1,500개 이상의 언어로 훈련된 스위스의 오픈 모델이다. 두 모델 모두 공공 대학과 연구 기관에서 개발되었으며, Workers AI에서 접근 요청이 가능하다. EuroLLM은 MareNostrum 5 슈퍼컴퓨터에서 훈련되었고, Apertus는 CSCS의 Alps 슈퍼컴퓨터에서 훈련되었다. 이들 모델은 특히 저자원 언어에서 성능이 뛰어난 것으로 보고되었다.