AI 리서치·논문
arXiv 논문과 대형 연구소의 기술 리포트를 추적하는 카테고리다. 모델 아키텍처, 학습 기법, 벤치마크 결과처럼 6개월 뒤 제품에 들어올 흐름을 미리 읽는다. 한국 개발자가 논문 전문을 다 읽지 않고도 핵심과 재현 가능성을 가늠하도록 정리한다.
커리큘럼 학습 기반 심층 강화학습으로 원거리 로켓 자율 수직 착륙 구현
재사용 발사체의 자율 수직 착륙을 위해 3단계 커리큘럼, 비평가 워밍업, 리허설 메커니즘을 결합한 심층 강화학습 프레임워크가 제안됐다. 에이전트는 수평 거리 1,000~1,500 단위에서 출발해 연착륙하도록 학습된다. 100,000 에피소드 평가에서 제안 정책의 성공률은 99.98%, 베이스라인은 68.31%로 보고됐다. 기존 강화학습 접근법은 평탄한 학습 방식과 지나치게 단순화된 초기 조건에 의존해 실제 적용 범위가 제한된다는 점이 지적됐다. 이 연구는 이를 해결하기 위해 회전 행렬 3 X 3 전체를 포함한 고차원 관측 벡터를 사용하고, 보상 함수를 재설계했다. 재설계된 보상 함수는 스텝별 보상 크기를 O(1)로 제한하며, 진행도 항이 궤적 전체에서 이동한 누적 거리를 반영한다. 평가에서 제안 정책은 초기 연료 용량의 69.1%를 유지했고, 착륙 패드 중심으로부터의 평균 최종 거리는 7.07 단위로 베이스라인의 13.10 단위보다 짧았다. 착륙 시각화 영상은 Video 1과 Video 2로 제공된다.
Artificial Analysis Intelligence Index v5 개편과 독립 벤치마크의 한계
Artificial Analysis가 Intelligence Index v5를 발표했으며, 지식 노동·코딩·과학·일반 영역을 각 25%씩 가중합한 단일 점수로 최신 프런티어 모델을 순위화한다. 이 단일 지표가 모델 경쟁의 승패를 좌우하는 만큼 평가 방식 자체가 업계에 큰 영향을 준다. v5의 가중치는 지식 노동 25%(AA-Briefcase 15%, AutomationBench-AA 5%, GDP.pdf 5%), 코딩 25%(FrontierCode 2.0 15%, Terminal-Bench 4.0 10%), 과학 25%(Terminal-Bench-Science 15%, CritPt v2 hard subset 10%), 일반 25%(AA-Omniscience v1.1 15%, 그중 정확도 10%·비환각 5%, HLE-Diamond 10%)로 구성된다. 기사에 따르면 이 지수에서 GPT 6.1 Terra가 Claude Fable 5.1을 앞섰고, 8개의 폐쇄형 모델이 최고의 오픈 웨이트 모델인 Kimi K3.1 Pro를 앞섰다. 기사는 이 지수가 실제 사용 패턴을 반영하려 하지만 현실의 모델 능력이 들쭉날쭉해 집계 점수에 긴장과 혼선이 드러난다고 지적한다. 또한 오픈 모델은 코딩에서 경쟁력이 높은 반면 지식 노동에서는 확신이 낮고, 과학 평가에서 특히 뒤처진다고 분석한다. 저자는 이전 지수가 오픈 모델을 지나치게 유리하게 보여 줬다고 보며, 다음 세대 모델(GLM 6, Kimi 3.5 등) 출시 때 오픈 모델이 이 지수에서 상당한 진전을 보일 것으로 예상한다.
C-BRAIN, NVIDIA와 함께 알츠하이머 연구의 '다크 데이터'를 AI로 활용
알츠하이머 연구 컨소시엄 C-BRAIN이 NVIDIA와 협력해 공개되지 않았던 연구 데이터를 AI 도구로 활용하는 시스템을 구축하고 있다. 기사에 따르면 AI 공동 과학자 OpenScientist는 분석을 수 주에서 수 개월 걸리던 작업을 몇 분 만에 끝내며 실행 1회당 비용은 10달러 미만이다. C-BRAIN은 Randall Bateman이 이끄는 18개 기관 컨소시엄으로 2025년 11월에 출범했다. 미공개 연구 결과, 음성(negative) 결과, 기관 내 보안 데이터 등 기존에 AI 도구가 접근하지 못했던 '다크 데이터'를 활용하는 것이 핵심이다. 데이터를 기관 밖으로 옮기지 않도록 중앙집중형과 연합학습(federated) 방식을 혼합한 구조를 쓰며, 현재 온프레미스에 NVIDIA 데이터센터 GPU 64개를 운영하고 Microsoft Azure의 클라우드 노드를 함께 사용한다. 연구 파이프라인에는 NVIDIA BioNeMo 개발자 플랫폼과 MONAI 프레임워크가 도입된다. C-BRAIN은 OpenScientist(Lawrence Berkeley National Laboratory와 공동 개발, 오픈소스 에이전트형 AI 공동 과학자)와 InsightEngine(387 Labs와 공동 개발, 가설을 과학 문헌과 대조하고 주장마다 근거를 확인하는 오픈소스 플랫폼)을 이미 만들었다. 현재 200여 개 연구 그룹에 적용되며 연간 100만 시간 이상의 연구 역량을 확보할 수 있을 것으로 기사는 전했다. 향후 신경영상, 다중 오믹스, 체액 바이오마커, 장기 임상 데이터를 학습한 다목적 생물학 파운데이션 모델을 구축해 3년 차에는 뇌 노화와 알츠하이머의 새로운 인과 기전을 찾는 것이 목표다.
AI로 가짜 과학 논문을 만들어 IEEE Access 투고를 시도한 실험 결과
저자는 자신의 옛 박사 연구 분야인 광 솔리톤을 주제로, 무료 ChatGPT(GPT-5.3/5.2 Mini)와 Gemini(3 Flash)를 단계별로 프롬프트해 실제로 수행되지 않은 연구의 논문을 만들었다. 기사는 이것이 과학 출판의 스팸(AI slop) 문제를 얼마나 쉽게 드러내는지 보여준다고 전한다. 기사는 2025년 게재된 학술 논문의 약 57%에서 LLM 영향의 탐지 가능한 흔적이 나타났다고 전하며, 이는 2023년 12%에서 크게 늘어난 수치라고 설명한다. 저자는 LLM에 초안, 방법, 그림과 캡션, 참고문헌, IEEE Access 양식 변환까지 맡겼고, 직접 출력을 편집하거나 외부 전문가의 도움을 받지 않는 조건을 지켰다. 논문 작성에는 프롬프트를 여러 차례 반복했으며, 한 모델이 거부하면 다른 모델에 '가설적으로' 다음 단계를 묻는 방식이 효과적이었다고 한다. 저자는 두 가지 경로를 시도했다. 하나는 무료 범용 챗봇을 단계별로 쓰는 방식이고, 다른 하나는 과학 연구 대부분을 스스로 수행하도록 설계된 자율 연구 시스템 FARS를 쓰는 방식이다. 편집자 Jenny Mahoney의 협조 아래 IEEE Access 투고 방어를 실제로 시험한 결과가 이 실험의 핵심이다.
중국 AI 콘텐츠 토큰 소비 55% 주장, ByteDance 반박과 바야위에탄 논평으로 정정
중국 디지털 콘텐츠 기업 COL Group이 투자자 회의에서 AI 생성 숏드라마와 영상 생성이 중국 토큰 소비의 55%를 차지한다고 밝혔고, 이 수치가 온라인에서 '중국 AI는 쓰레기 드라마만 만든다'는 서사로 확산됐다. ByteDance 두바오 앱 홍보 책임자 류싱은 회사 전체 컴퓨팅 파워의 약 10%만 영상 생성 모델의 학습과 추론에 배정된다며 해당 수치의 신뢰성에 의문을 제기했다. 신화통신 계열 시사 잡지 바위에탄(Banyuetan)의 장딩제(Dingjie Jiang) 논평은 '토큰 소비'가 '컴퓨팅 파워 소비'와 같지 않다고 지적했다. 토큰은 모델이 정보를 처리하는 단위로 사용량을 보여줄 뿐이며, 같은 수의 토큰이라도 모델에 따라 필요한 연산량이 크게 다를 수 있다는 설명이다. 이 논평은 온라인에서 도는 중국과 미국의 두 데이터가 통계 범위, 모델 유형, 표본이 서로 달라 단순 비교는 오도를 낳는다고 결론지었다. 또한 논평은 '한쪽은 좋고 한쪽은 나쁘다'는 양분법 서사가 이 주장이 빠르게 퍼진 핵심 원인이며, 일부 자기매체(自媒体)가 개별 현상을 '중국 AI는 오락뿐이고 미래가 없다'는 식의 전면적 일반화로 키운다고 비판했다. 기사의 주된 맥락은 이 수치 자체보다 중국 내부에 존재하는 'AI 슬롭(AI slop)에 컴퓨팅이 낭비된다'는 국가적 불안이다. 기사는 GovAI 연구원 첸쯔란(Zilan Qian)의 관찰을 인용해, 같은 서사가 미국을 향한 '생산성 목적'의 대비와 맞물려 확산된 점을 짚었다.
B2B 영업 지역 배정을 다목적 최적화로 관리하는 의사결정 시스템
기업 고객을 영업 담당자에게 배정하는 영역 설계(territory carving)를 수동 작업에서 벗어나 다목적 최적화 기반 의사결정 시스템으로 다룬 연구다. 계정 가치 예측, 영업 담당자와 고객 관계 유지 비용 추정, 다목적 최적화 세 계층을 결합했다. 이 시스템은 예측 신호를 결합해 기회를 점수화하는 다차원 계정 가치 계층, 합성 통제(synthetic-control) 방식의 반사실 프레임워크로 영업 담당자와 계정의 관계를 끊을 때의 비용을 추정하는 관찰 기반 연속성 가치 계층, 연속성·기회 균형·운영 제약을 고려해 고가치 계정에 영업 커버리지를 배분하는 다목적 최적화 계층으로 구성된다. 과거 데이터 백테스팅에서 최적화기가 만든 시나리오는 배정 준수율을 크게 높이면서 영업 담당자별 기회 분포를 비슷하게 유지했다. 실제 운영 계획에서 채택된 시나리오는 이전 기준선 대비 배정 준수율과 기회 균형을 모두 개선했다.
PaperFormalizer, 논문을 Lean으로 형식 검증하는 저자 참여형 파이프라인 공개
PaperFormalizer는 코딩 에이전트(Claude Code 또는 Codex) 안에서 동작하는 Lean 기반 에이전트 파이프라인으로, 저자가 자신의 논문에서 증명이나 가정의 빈틈을 찾고 메워 Lean으로 검증된 버전을 만들도록 돕는다. 구현은 GitHub 저장소에서 제공되며, 사용자가 공유한 Lean 코드가 포함된 논문은 paperformalizer.org에서 볼 수 있다. 파이프라인은 LaTeX 원고를 입력받아 논문의 명제들을 의존 그래프로 옮기고, 각 명제를 자연어로 충실성, 모호성, 정확성 측면에서 점검한다. 이후 Mathlib, 선택적 도메인 라이브러리, 저자의 개인 도구 모음을 바탕으로 명제를 Lean에서 형식화하고 증명한다. 명제가 두 가지 이상으로 읽힐 여지가 있으면 파이프라인은 멈추고 저자에게 질문하며, 모든 수정안은 자연어와 TeX 기호로 제시되어 저자가 수락, 거절 또는 방향 변경을 선택할 수 있다. 출력물은 주석과 수정이 반영된 논문, 변경 내역 보고서, 그리고 각 선언이 대응하는 명제와 연결된 Lean 코드다. 더 많은 논문이 형식화될수록 저자의 도구 모음이 커지며, 저자는 검증된 논문을 공유해 후속 연구자가 Lean 코드를 재사용하도록 할 수 있다.
Epoch AI, 자사 실제 업무 9개 중 9개를 AI에 맡겨 본 자동화 평가 결과: 최고 모델 평균 65%
Epoch AI가 자사 직원이 수행하는 그래픽 디자인, 연구 계획 등 실제 업무를 AI에 맡겨 평가한 결과, 최고 성능 모델인 Claude Fable 5.1과 GPT-6 Astra의 평균 점수는 65%였다. 벤치마크 점수와 실제 업무 수행 능력 사이의 격차를 줄이려는 시도라는 점에서 주목할 만하다. Epoch는 기존 벤치마크가 AI의 실제 경제적 효과를 제대로 반영하지 못한다고 보고, 2025년 2월 Anson Ho 연구원이 자신의 업무를 자동화하려 시도한 실험을 확장해 Epoch Automation Reports를 만들었다. 이 보고서는 그래픽 디자인과 연구 프로젝트 계획처럼 Epoch에서 정기적으로 수행하는 업무를 대상으로 AI를 사람과 같은 기준으로 평가하며, 맥락 수집과 도구 사용, 복잡성 처리를 요구한다. 점수는 사람 직원이 평가받는 루브릭 항목 중 충족된 비율이며, 100%가 되어야 해당 업무를 자동화해도 된다고 본다. 평가에서 GPT-6 Astra는 파일럿 실험 중 토큰 예산을 너무 낮게 설정해 실행의 22%가 답을 반환하지 못했는데, 이를 설정 오류가 아니라 모델 능력에 관한 핵심 발견으로 취급했다. Fable 5.1은 Epoch 스타일 예시를 제공받고 그래픽을 설계했을 때 정보가 과도하게 담긴 복잡한 차트를 만들었고, 같은 과제를 받은 Epoch 디자이너는 깔끔하고 단순한 차트를 제작했다. Epoch는 명확히 정의된 작업(예: 코딩, 데이터 분석)에서 AI가 더 잘 수행하고, 예시에서 패턴을 찾거나 판단이 필요한 개방형 작업에서는 부족하다고 밝혔다. 65%는 사람 검토 없이 쓸 수 없는 수준이므로 아직 실패한 과제로 간주되며, 기사는 AI가 100% 기준을 넘는 과제가 늘어나면 경제적 효과가 커질 것이라고 설명했다. 실제로 Fable 5.1이 대부분 한 번에 허용 가능한 차트를 생성할 수 있게 되어, Epoch는 기본 차트 생성 과제를 평가에서 제외하고 일상 업무에서 이 단계를 일부 자동화했다.
Phronix, 에이전트가 자신의 실행에서 재사용 가능한 역량을 축적하는 학습 패러다임 제안
과학 컴퓨팅의 성능 엔지니어링 작업에 쓰이는 LLM 기반 에이전트를 위해 Phronix가 제안됐다. Phronix는 predictor-validator-corrector 루프로 MCP 도구와 스킬이 해법을 제시하고, 도구 실행이 이를 검증하며, 관찰된 결과로 저장된 역량을 다듬는다. 기존 에이전트는 수작업으로 작성된 스킬과 큐레이션된 메모리에 의존해 같은 해법을 반복해서 다시 찾아야 했다. Phronix는 모든 관찰된 상호작용을 역량 저장소(capability store)로 정리하고, 실패한 작업은 포기하지 않고 조사한다. 저자들은 학습된 역량이 반복되는 작업을 모든 모델에서 93~95%의 경우 첫 시도에 해결한다고 보고했다. 사용자 지시 없이 작업당 7.6~30.8개의 지속 가능한 역량이 생성되며, 필요한 역량이 존재하면 생성 수는 2개 미만으로 떨어진다. 웜 스타트 실행은 작업당 0.38~0.40백만 토큰을 소비해 단일 베이스라인 시도보다 3~4배 적었다. 1000 Genome Pegasus 워크플로에서 I/O 성능 분석을 위해 운영 애플리케이션을 계측한 작업에서는 Phronix가 11개의 정확성 검사를 모두 통과했고, 베이스라인 하네스는 6개를 통과했다. 또한 SWE-bench 작업 해결률을 저비용 모델 두 개에서 각각 29%와 27%에서 91%와 87%로 끌어올려, 가장 비싼 평가 모델의 성능과 맞췄다.
OCR 평가에 개체 단위 분석을 더한 역사 문서 전사 연구: Berrutti Archive 175건 벤치마크 비교
역사 문서 디지털화에 쓰이는 OCR 품질을 문자 오류율(CER)만으로 판단하면 이름·날짜·식별자 같은 의미 정보가 보존되는지 드러나지 않는다는 문제를 다룬 연구다. 연구진은 Berrutti Archive의 공개 벤치마크 175건에 수작업 주석 개체 5,209개를 더해 시퀀스 인식 OCR, OCR 특화 비전-언어 모델, 범용 비전-언어 모델을 비교했다. 연구진은 전체 전사 정확도에 더해 문자 단위 편집 허용치를 달리하며 개체 보존율과 복구 가능성을 분석했다. 그 결과 Qwen 3.6은 테스트한 모든 허용치에서 가장 높은 개체 커버리지를 기록했다. 정확 일치 커버리지가 낮은 여러 시스템은 작은 오류를 허용하면 개체 복구율이 크게 올라갔는데, 이는 많은 오류가 개체를 근본적으로 잘못 전사한 것이 아니라 국소적인 문자 단위 편차에 해당함을 시사한다. 반면 일부 시스템은 느슨한 매칭에서도 많은 개체를 복구하지 못했다. 이 결과는 OCR 순위가 평가 기준에 따라 달라진다는 점을 보여준다. 연구진은 OCR 품질이 집계형 전사 지표만으로는 충분히 특성화되지 않으며, OCR 오류가 의미 있는 정보의 보존과 복구 가능성에 어떤 영향을 미치는지 평가하는 것이 중요하다고 결론짓는다.
LLM 기반 자기회귀 멀티모달 이상 탐지 프레임워크 LLMMAD, 마이크로서비스 시스템 모니터링용
마이크로서비스 시스템의 장애와 성능 이상을 찾아내기 위해 대형 언어 모델(LLM)을 활용한 자기회귀 멀티모달 이상 탐지 프레임워크 LLMMAD가 제안되었다. 기존 방식이 가진 모달리티 고유 특성 손실과 identity-shortcut 문제를 함께 다룬다. LLMMAD는 멀티모달 데이터를 하나의 통합 시퀀스로 임베딩하고 재조합해 LLM이 모달리티 간 관계를 모델링하도록 한다. 동시에 모달리티별 재구성 헤드를 두어 각 모달리티의 고유 정보를 유지한다. identity-shortcut을 제거하기 위해 입력을 그대로 복사하는 대신 미래 상태를 예측하는 prediction-driven 자기회귀 목표를 적용했다. 세 가지 실제 데이터셋에서 실험한 결과, 최신 기법 대비 F1-score가 각각 3.1%, 1.4%, 0.9% 향상되었다.
Jeff Lindsay의 webframe, 샌드박스 및 웹 스크래퍼 용도로 평가
webframe은 Jeff Lindsay가 만든 Go 기반 프로젝트로, URL이나 파일을 숨겨진 헤드리스 웹뷰에서 실행해 console.log() 출력은 표준 출력으로, 예외는 표준 에러로 내보낸다. 시스템 브라우저(macOS의 WKWebView, Linux의 WebKitGTK, Windows의 WebView2)를 glaze 라이브러리로 사용해 자체 브라우저 엔진을 번들하지 않는다. Simon Willison은 Claude Opus 5.5를 활용해 webframe을 여러 탐색용 프로토타입으로 시험하고, 샌드박스 도구 및 shot-scraper javascript 명령의 패턴을 따르는 웹 페이지 스크래핑 도구로서의 적합성을 평가하는 리서치 보고서를 작성하게 했다. 그는 webframe이 Playwright에 의존하지 않는 훨씬 작은 패키지라는 점에서 자신의 shot-scraper javascript 도구를 떠올리게 한다고 설명했다.
Resolution, 에이전트로 힐로나카 특이점 해소 정리 자동 형식화…약 13.5만 달러·60만 줄 Lean 코드
AI 안전 스타트업 Resolution이 통계적 학습 이론과 관련된 수학 명제 일부를 자동으로 형식화했다고 발표했다. 특이점 해소(resolution of singularities) 정리를 자동 형식화해 손실 지형 기하와 일반화의 관계를 자동 연구할 기반을 마련했다는 것이 핵심이다. 연구자는 먼저 에이전트들과 함께 고수준의 사람이 읽을 수 있는 계획과, 기존 문헌을 충실히 따르는 112페이지 분량의 원자 단계 계획 두 가지를 만들었다. 이후 오케스트레이터 에이전트에게 실행을 맡겼고, 에이전트들은 종이와 펜으로 하는 수학, Lean 작성, 계획 점검 등을 나눠 수행했다. 실행 단계에서는 초기 계획과 이전 내부 자동 형식화 작업에서 추출한 일부 에이전트 스킬 외에는 별다른 스캐폴딩이 거의 필요하지 않았다고 한다. 작업은 약 일주일이 걸렸고, 약 1000억 입력 토큰(90%가 캐시 읽기)과 약 3억 출력 토큰이 쓰였으며 추정 토큰 비용은 13만 5천 달러, 생성된 Lean 코드는 약 60만 줄이다. Resolution은 이 라이브러리를 활용해 특이 학습 이론(singular learning theory)의 일부를 확장하는 데 이미 성과를 보았다고 밝혔다. 특이점 해소를 형식화하면 샘플링을 더 잘 이해하는 등 이론의 더 많은 부분을 자동화할 수 있고, 그 이해를 바탕으로 모델이 학습하는 방식을 형성하는 것이 회사가 '패터닝'이라 부르는 목표다. 기사는 이러한 수학의 산업화가 연구 자동화에 대한 새로운 엄밀한 과학을 가능하게 할 것이라고 Resolution이 쓴 점을 전한다.
Lex Fridman 팟캐스트, AI가 나비에-스토크스·리만 가설 등 수학 난제에 도전하는 현황 논의
Lex Fridman 팟캐스트 #503은 MIT의 Ankur Moitra, UW의 Steven Brunton, Rutgers의 Alex Kontorovich 세 수학자를 초대해 AI가 나비에-스토크스, 준(quasi)리만 가설, 고유 게임 추측 등 수많은 난제를 풀어낸 수학계의 현 상황을 다룬다. 게스트들은 각각 이론 컴퓨터과학·복잡도 이론, 유체역학과 머신러닝, 수론과 Lean 기반 기계 검증 증명을 맡는다. 에피소드 개요에는 AI가 해결했다는 문제 목록이 소개되어 있지만, 각 문제별 해결 방법·수치·검증 결과는 설명 텍스트에 구체적으로 적혀 있지 않다. 대신 Lean이 기계 검증 증명에 쓰이는 도구로 언급되며, Brunton은 유체역학에서의 머신러닝 활용을, Moitra는 AI가 학습하는 수학적 원리를 다룬다고 명시되어 있다. 에피소드에는 AI가 수학을 '풀' 수 있는지, 새로운 수학을 만들 수 있는지, P vs NP 문제에 답할 수 있는지, LLM이 잘 작동하는 이유와 AI가 아직 풀지 못하는 문제, 그리고 페렐만에 대한 이야기가 목차로 포함되어 있다.
AI 에이전트로 시뮬레이션에서 Microduck 같은 로봇의 보행 학습하기
NVIDIA 기술 블로그는 장애물 코스를 통과하는 로봇에는 보행 정책만으로는 부족하며, 주변을 인식하고 균형을 유지하며 앞길이 막혔을 때 동작을 조정하는 능력이 필요하다고 설명했다. 이 기사는 AI 에이전트를 이용해 Microduck 같은 로봇을 시뮬레이션에서 걷도록 가르치는 방법을 다룬다. 이러한 능력을 개발하는 과정은 여러 단계로 이어진다고 기사는 밝혔다. 에셋과 환경을 만드는 단계, 물리 시뮬레이션으로 로봇이 환경과 상호작용하는 방식을 모델링하는 단계, 그리고 학습과 평가 단계가 포함된다.
텐센트, 텍스트 명령과 카메라 움직임에 따라 영상을 이어 만드는 월드 모델 Hy-Nomas 오픈소스 공개
텐센트가 텍스트 명령과 카메라 움직임에 맞춰 영상을 이어 만드는 월드 모델 Hy-Nomas를 오픈소스로 공개했다. 사용자는 영상 생성 도중 사물을 추가하거나 등장인물의 행동, 배경, 화풍을 바꿀 수 있다. 카메라 시점과 이동 경로도 지정할 수 있으며, 앞서 생성한 장면의 정보를 다음 구간에 활용하도록 설계됐다. 모델 가중치와 실행 코드가 함께 제공되며, RTX 4090 한 장에서 실행하는 저메모리 설정도 마련됐다.
클로드 페이블 5.1이 그림에 숨긴 문장을 GPT-6 아스트라가 88% 해독
AI가 밤하늘의 별과 도시 건물의 위치·높이를 문자로 바꿔 문장을 숨기고, 다른 AI가 이를 해독하는 실험 결과가 나왔다. 연구진 니키타 케진 등은 21일(현지시간) 온라인 연구 커뮤니티 레스롱(LessWrong)에 실험 결과를 공개했다. 클로드 페이블 5.1이 그림에 숨긴 메시지 50개 중 44개(88%)를 GPT-6 아스트라가 복원했다.
memt-1.0, 게이티드 DeltaNet-2와 Mixture-of-Storage로 에이전트 메모리를 모델 내부에 구현, 128k 컨텍스트에서 저장 공간 66배 절감
memt-1.0은 추가 전용 프롬프트 누적이나 외부 RAG 대신 게이티드 DeltaNet-2 기반의 토큰 단위 메모리 업데이트와 Mixture-of-Storage(MoS) 계층을 모델 계산 계층에 직접 넣은 메모리 네이티브 아키텍처다. 기사에 따르면 128k 토큰 이력에서 memt-1.0-nano는 전체 컨텍스트 KV 캐시 방식 대비 약 1.86배의 엔드투엔드 추론 속도 향상과 66배의 영구 저장 공간 감소를 보였다. 기사는 기존 에이전트가 과거 실행 로그를 원문 텍스트로 검색해 컨텍스트 창을 부풀리는 반면, memt-1.0은 다중 턴 에이전트 작업 중 검색된 절차적 경험을 모델 가중치 또는 상태로 지속적으로 내재화한다고 설명한다. 학습은 340억 토큰 규모의 지속 사전학습과 사후학습의 2단계 파이프라인으로 이루어지며, 파라메트릭 메모리 계층 학습에서 흔히 생기는 기본 LLM 성능 저하를 줄여 일반 추론 능력을 유지하면서 기존 파라메트릭 메모리 베이스라인보다 높은 성능을 낸다고 기사는 밝힌다. 장기 과제를 수행하는 에이전트를 만드는 개발자라면 게이티드 DeltaNet 및 MoS 같은 아키텍처 수준 업데이트 계층으로 상태를 내재화하는 방식이 KV 캐시 메모리 병목을 우회하는 방향인지 검토해볼 만하다.
Nanbeige, Apache 2.0 라이선스 교사 모델 Nanbeige4.3-33B 공개… Terminal-Bench 2.1에서 Qwen3.8-27B 앞서
Nanbeige가 자사 소형 에이전트(예정된 3B 모델 포함)의 교사 모델로 Nanbeige4.3-33B를 공개했다. 가중치는 Apache 2.0 라이선스이며, 모델 카드에는 512K 컨텍스트 윈도우가 명시되어 있다. 팀이 보고한 자체 평가에서 Terminal-Bench 2.1은 80.9점으로 Qwen3.8-27B의 73.0점보다 높았다. 같은 벤치마크 내에서는 동일한 하네스와 추론 설정을 사용했다. 다만 SWE-Bench Pro에서는 60.3점으로 Qwen3.8-27B의 61.7점보다 낮아, 모든 항목에서 앞서는 것은 아니다. 이 수치들은 공개 팀의 평가이며 독립적인 재현 결과가 아니다. 에이전트 결과를 재현할 때 실용적으로 참고할 설정도 있다. 평가에서는 preserve_thinking=true로 이전 추론 내용을 유지했다. 모델 카드는 이 설정을 다중 턴 도구 사용에 권장하며, 일반 대화에는 권장하지 않는다고 밝혔다.
오픈 웨이트 모델 파인튜닝 시 엣지 케이스 데이터셋 구축의 어려움에 대한 r/MachineLearning 질문
r/MachineLearning 게시물은 오픈 웨이트 모델을 파인튜닝할 때 흔한 예시가 아닌 엣지 케이스를 처리하도록 데이터셋을 만드는 과정을 묻는다. 작성자는 희귀한 엣지 케이스를 찾는 방법, 예시를 직접 작성하거나 합성 데이터 또는 실제 데이터를 활용하는 방식, 품질 관리, 커버리지 판단, 엣지 케이스 추가가 오히려 성능을 떨어뜨린 경험을 물었다. 질문은 다섯 가지 항목으로 나뉜다. 엣지 케이스 식별 방법과 기존 데이터셋에 엣지 케이스를 더해 특화시키는 방법, 직접 작성과 합성 데이터 생성 또는 실제 데이터 마이닝 중 선택, 부정확하거나 반복적이거나 비현실적인 예시를 걸러내는 품질 관리, 중요한 실패 사례를 충분히 다뤘는지 아는 방법, 엣지 케이스 추가가 모델을 나쁘게 만들었거나 개선하지 못한 사례가 있었는지 묻는다.
Sebastian Raschka, 추론 모델을 처음부터 구현하는 8편 11시간 강의 영상 공개
Sebastian Raschka가 Ahead of AI에서 추론 모델(Reasoning Models)을 PyTorch로 처음부터 구현하는 8개 코딩 강의 영상(총 11시간)을 공개했다. 사전 학습된 LLM에서 출발해 평가와 개선 방법을 직접 코드로 구현하는 구성이다. 강의는 사전 학습된 소형 Qwen3 모델을 대상으로 하며, 추론 시점 스케일링(inference-time scaling), 강화학습(reinforcement learning), 증류(distillation)를 Python과 PyTorch로 직접 구현한다. 첫 영상은 개발 환경 설정을 다루고, 초기 텍스트 생성과 평가 예제는 CPU에서도 실행할 수 있으며 후반의 학습 실험에는 GPU가 권장된다고 밝혔다. 강의 내용은 동명의 책 Build a Reasoning Model (From Scratch)과 함께 보도록 구성되었고, 이전 강의 Coding LLMs from the Ground Up의 후속 성격이다. 기사는 추론 모델을 LLM 위에 검증 가능한 보상 기반 강화학습을 추가한 개선형 모델로 설명하며, 에이전트 하네스(agent harness)는 그 모델을 엔진으로 삼아 컨텍스트 관리와 도구 접근을 담당하는 소프트웨어 프레임워크라고 정리한다.
Kimi K3.1 Pro 벤치마크 반응 엇갈림과 오픈웨이트 사이버보안 위험 논의
Interconnects의 Nathan Lambert와 Florian이 Kimi K3.1 Pro의 엇갈린 반응과 오픈웨이트 모델의 사이버보안 위험을 다룬 팟캐스트를 공개했다. 두 사람은 Artificial Analysis 지수에서 높은 점수를 받은 모델이 실제 평가에서는 평가가 갈린 이유를 짚었다. Florian은 Kimi 모델이 과거에는 기대에 부응했지만 이번 K3.1 Pro 출시는 이전과 다르다고 말했다. 이번에는 더 큰 소셜미디어 캠페인이 동원되었고, 광고 표기 없이 게시물을 돈 받고 올리게 했다는 주장이 제기됐다. Nathan은 한 사용자가 공유한 홍보 지침 스크린샷에 '유료 홍보라고 말하지 말 것'이라는 문구가 있었다고 전했으며, 이후 이를 확인한 사례는 없다고 덧붙였다. 출시 방식도 바뀌어 과거에는 모델을 공개한 뒤 vLLM을 나중에 패치했지만, 이제는 추론 프레임워크와 추론 제공자가 첫날부터 지원하고 모델 제작사가 가중치 공개 전 약 2주간 독점 접근 기간을 두는 방식이 늘고 있다고 설명했다. K3.1 Pro는 가중치를 11월 4일까지 공개하겠다고 밝혔다. Artificial Analysis 지수에서 K3.1 Pro는 Claude 최신 모델들과 Muse Wonder Full 등과 함께 상위권에 올랐고, Nathan은 Kimi 블로그의 일부 수치가 들쭉날쭉하다고 지적했다. 예로 Terminal-Bench Science에서 GPT-6 Astra보다 20점 뒤처진다고 언급했다. Florian은 Artificial Analysis의 벤치마크가 시간 지평이 짧은 반면 ProgramBench는 훨씬 길고 탐색적인 과제라고 설명했다. 팟캐스트는 이 밖에도 오픈웨이트 모델의 사이버보안 원칙, PHP2Shell과 LiteLLM 보안 사고, 안전장치가 제거된 abliterated 모델의 API 제공 문제를 다룬다.
Lean-QwenFlash, 16GB VRAM과 8GB RAM 환경에서 NVMe SSD 오프로딩으로 Qwen3.8-Flash-Next 125B를 약 20 tok/s로 구동
Reddit r/LocalLLaMA에 공유된 Lean-QwenFlash는 Qwen3.8-Flash-Next(125B) 모델을 RTX 4090(VRAM 16GB, 시스템 RAM 8GB 할당) 환경에서 약 20 tok/s의 디코드 속도로 실행한다고 밝혔다. 기존 구성이 24k 전문가(experts)를 시스템 RAM(약 48~64GB)에 고정하던 것과 달리 NVMe SSD에서 직접 오프로딩하는 방식이다. 기사에 따르면 이 방식은 sybil-solutions의 GLM 오프로드 구현을 기반으로 Qwen3.8 Flash Next 모델에 맞게 적용한 것이다. 캐시 미스(cache miss)를 CPU에서 계산하던 기존 방식과 달리 전문가 가중치를 SSD에서 직접 불러온다. 측정 조건은 3.05bpw_h5_ng5 양자화와 Q4 KV 캐시이며, RTX 4090 기준 8k 컨텍스트에서 산문 생성 28~33 tok/s, 코드 생성 19~22 tok/s, 프리필 약 1,080 tok/s를 기록했다. 100k 컨텍스트에서는 디코드 20.8 tok/s, 프리필 약 1,536 tok/s이고, 전체 윈도우인 262k 컨텍스트에서는 디코드 20.0 tok/s, 프리필 약 1,627 tok/s였다. RTX 3080 Laptop(VRAM 16GB, RAM 32GB)에서는 100k 컨텍스트 기준 디코드 약 18~21 tok/s, 프리필 약 650~700 tok/s, 최대 VRAM 사용량 15.5GB로 보고됐다. 설치 방법, 모델 다운로더, 패킹 스크립트는 GitHub 저장소 MaxDevv/lean-qwenflash에 공개되어 있다. 기사는 기존 방식이 고사양 워크스테이션에서는 잘 동작하지만 RAM이 제한된 일반 PC나 노트북에서는 쓰기 어렵다는 점을 문제로 제시한다. 작성자는 이 구성이 Qwen3.8 Flash Next 모델의 경량성에 기대고 있어 다른 모델에 그대로 적용된다고 주장하지는 않았다.
NVIDIA Earth-2 오픈 모델, 유럽 기상·기후 예측에 적용 확산: StormScope EU와 CorrDiff 활용 사례
NVIDIA Earth-2의 새 모델 StormScope EU는 EUMETSAT 위성 관측 자료로 유럽 16개 Meteosat 채널의 구름 상태를 10분 간격으로 예측한다. AXA, Vaisala Xweather, 맨체스터 대학교, TotalEnergies, Space42 등이 실제 리스크 평가·대기질·태양광 예측에 이 모델과 도구를 적용하고 있다. StormScope EU는 Earth-2에 추가된 유럽 지역 버전의 단기 예보 모델로, 유럽의 기상·기후 데이터로 학습되었다. GTC Berlin에서는 Earthmover와 함께 만든 실시간 StormScope EU 파이프라인 데모가 공개되었으며, Earth2Studio로 예보를 실행하고 Earthmover 데이터 플랫폼이 결과를 지도 타일 형태로 제공한다. 새 위성 관측이 들어올 때마다 10분 단위로 갱신되며, 방문자는 전체 데이터셋을 내려받지 않고도 유럽 전역의 예측을 살펴볼 수 있다. 개발자는 단기 예보에는 StormScope를, 거친 기상 데이터에 지역 세부 정보를 더할 때는 CorrDiff를 조합할 수 있고, 오픈소스 PhysicsNeMo 프레임워크로 자체 데이터를 넣어 재학습할 수 있다. AXA는 FourCastNet 3로 역사적 기록을 넘어 1,000시즌 이상의 시뮬레이션을 돌려 지역 사이클론 리스크를 분석한다. Vaisala Xweather는 자사 관측·낙뢰 데이터를 Earth-2와 결합하고 StormScope에 낙뢰 데이터를 더해 단기 예보의 리드 타임을 늘리는 작업을 진행 중이다. 맨체스터 대학교 연구진은 CorrDiff를 영국 대기질 모델링에 맞게 조정해 Isambard-AI 슈퍼컴퓨터에서 학습한 뒤 DGX Spark 시스템에서 로컬로 실행했다. TotalEnergies는 두 개 태양광 발전 현장에서 StormScope 기반 일사량 nowcast를 평가하고 있으며, Space42는 CorrDiff와 PhysicsNeMo로 SARDiff4Height를 개발해 단일 레이더 영상에서 지표 높이를 추정하고 불확실성 지도를 함께 생성한다.