AI 리서치·논문
Fundamental의 NEXUS, 구조화된 데이터 분석을 위한 대형 표 모델 개발
Fundamental은 2026년 2월 5일에 NEXUS라는 대형 표 모델(LTM)을 발표했다. 이 모델은 구조화된 데이터 분석에 특화되어 있으며, 기존의 기계 학습 알고리즘과 달리 다양한 예측 작업에 최소한의 맞춤형 특성 엔지니어링으로 적용될 수 있다. NEXUS는 수십억 개의 테이블로 사전 훈련되어 있으며, 데이터의 맥락을 이해하여 보다 정확한 예측을 가능하게 한다. 현재 Amazon Web Services와 같은 기업들이 이 모델을 채택하고 있다.
얼굴 인식 기술의 발전 역사와 주요 연구
1960년대, Woodrow Wilson Bledsoe는 사진으로 사람을 식별하는 시스템을 연구하였고, 1973년 Takeo Kanade는 컴퓨터가 얼굴 특징점을 자동으로 인식하는 기술을 발표했다. 1991년, Matthew Turk와 Alex Pentland는 PCA를 활용한 Eigenfaces 논문을 발표하여 얼굴을 통계적으로 분석하는 방법을 제시했다. 2000년대에는 LBP(Local Binary Pattern) 기술이 조명 변화에 강한 얼굴 인식을 가능하게 하였고, 2014년 Facebook의 DeepFace는 97.35%의 정확도로 인간의 평균 정확도에 근접했다. 이후 Google의 FaceNet은 99.63%의 정확도를 기록하며 얼굴 인식의 성능을 크게 향상시켰다.
토스의 2,800만 MAU 분석을 위한 유저 세그먼트 TUES 소개
토스의 Director of Data Analytics 우찬희는 2,800만 MAU를 분석하기 위해 TUES(Toss User Engagement Segment)를 활용하고 있다고 설명했다. TUES는 유저의 서비스 이용 패턴을 기준으로 세그먼트를 구성하여, 각 유저가 어떤 서비스를 선호하는지를 파악할 수 있는 도구이다. TUES V1은 K-Means Clustering을 사용하여 유저를 묶었으나, V2에서는 서비스별 이용 횟수를 반영하고 Soft Clustering 알고리즘을 적용하여 유저의 복합적인 이용 패턴을 분석할 수 있게 되었다. V2는 세그먼트 구조를 세 층으로 나누어 유저의 행동을 더 다각적으로 이해할 수 있도록 개선됐다.
AI 기업의 가치 포착과 고객 잠금 현상에 대한 논의
AI 기업들은 현재 추정되는 4~8조 달러의 AI 인프라 투자 회수 방법에 대한 질문에 직면해 있다. AI 기업들은 주로 추론에 대한 요금을 부과하여 수익을 얻고 있지만, 모델의 차별성이 부족하고 전환 비용이 낮아 높은 마진의 비즈니스 구축에 어려움을 겪고 있다. 연구자들은 AI 기업들이 수익성을 확보하기 위해 모델 계층이 아닌 더 높은 단계로 이동해야 한다고 주장하며, 이는 수직 통합과 기업 배치, 전환 비용 구축을 통해 가능하다고 본다.
AI:AM 하이라이트: Anthropic의 J-space와 AI 슈퍼포캐스터
Nathan Labenz와 Prakash Narayanan이 진행하는 AI:AM 하이라이트 에피소드에서는 Anthropic의 '글로벌 워크스페이스' 논문과 J-space, J-lens 개념에 대해 논의한다. 이 에피소드는 AI 해석 도구, 예측 기준, 기업 배포 패턴, AI 하드웨어가 시스템의 해석 가능성과 관리 가능성을 어떻게 향상시킬 수 있는지에 대한 논의로 이어진다. 또한, Pangram AI 글쓰기 탐지 실험과 AI 슈퍼포캐스팅에 대한 Dan Schwarz의 의견도 포함된다.
AI 모델의 증류 기법에 대한 심층 탐구 시리즈 시작
이 시리즈는 AI 모델의 증류 기법의 발전과 기본 기술을 다룰 예정이다. 현대 AI 시대는 규모의 언어로 설명되었으며, 더 큰 모델, 데이터셋, 클러스터 등이 발전을 이끌었다. 그러나 규모는 다음 문제를 야기하며, 가장 능력 있는 모델은 비싸고 느리며, 배포와 전문화가 어렵고, 실제 사용 사례에 비효율적일 수 있다. 예를 들어, 은행은 일반적인 대형 모델보다 규정 준수 워크플로우를 이해하는 개인 모델이 필요할 수 있다.
구글의 TabFM: 표 형식 AI를 위한 기초 모델
구글 리서치가 최근 발표한 TabFM은 표 형식 분류 및 회귀를 위한 기초 모델로, 이전에 본 적이 없는 테이블에 대한 예측을 단일 전방 패스에서 수행할 수 있다. 이 모델은 훈련, 조정, 특징 엔지니어링 없이 전체 문제를 하나의 거대한 프롬프트로 제공하면 답변을 생성한다. TabFM은 TimesFM의 개발 팀이 만든 것으로, 시간 시계열 데이터에 대한 예측을 위한 모델이다.
OpenAI의 Sol과 음성 모드 업그레이드 발표
이번 주 OpenAI는 Sol, 즉 GPT-5.6에 대한 내용을 다룰 예정이며, 음성 모드의 업그레이드도 발표했다. Claude와 같은 AI 작문이 점점 더 눈에 띄고 있으며, Grok 4.5도 출시되었다. Fable은 절차적 판타지 왕국 생성기를 구축할 수 있는 기능을 제공하며, 사용자에게 예상치 못한 기능을 제공하는 경향이 있다.
The Sequence의 후원 없이 운영되는 AI 관련 출판물
The Sequence는 2년 이상 후원 없이 운영되고 있으며, 매주 후원 요청을 받고 있다. 이 출판물은 AI 세계를 탐색하는 데 도움을 주기 위해 기술적 깊이와 객관성을 유지하고자 한다. 최근 Dwarkesh Patel의 에피소드에서 'grindability'가 'verifiability'만큼 중요하다는 주장이 제기되었고, 이는 AI 도메인의 품질을 평가하는 새로운 시각을 제공한다.
농업 AI의 데이터 준비 상태와 그 중요성
AI는 농업에서 가능성을 변화시키고 있으나, 효과적인 AI 솔루션을 위해서는 깨끗하고 견고한 데이터 기반이 필요하다. 연구에 따르면 AI 기반 예측 모델은 작물 수확량을 26% 향상시키고, 물 사용량을 41% 줄이며, 화학물질 사용량을 33% 감소시킬 수 있다. 그러나 데이터가 불완전할 경우 AI는 신뢰할 수 없는 결과를 생성할 위험이 크다. 농업의 데이터 환경은 복잡하며, IoT 기기와 외부 데이터 소스를 통합하는 것이 중요하다. 데이터 준비 상태는 AI의 성과와 밀접하게 연관되어 있으며, 정확하고 일관된 데이터 모델이 필요하다.
Anthropic, Claude Opus 4.6의 J-space 발견
AI 기업 Anthropic은 Claude Opus 4.6에서 J-lens라는 도구를 사용하여 J-space라는 숨겨진 영역을 발견했다. 이 J-space는 모델이 향후 생성할 가능성이 있는 단어와 관련된 개별 단어들을 포함하고 있으며, 이를 통해 모델의 내부 작동 방식을 더 잘 이해하고 제어할 수 있는 방법을 제시한다. J-lens는 모델이 다음에 생성할 단어를 예측하는 것 외에도 미래의 유용한 토큰을 계산하는 과정을 보여준다. 예를 들어, Claude가 수학 문제를 해결할 때 J-space는 중간 결과를 포함한 단어들을 드러낸다.
QANTIS: IBM Heron 하드웨어에서의 순차적 POMDP 신념 업데이트
QANTIS는 양자 프로세서를 신념 업데이트 서비스로 활용하여 이전 신념과 관찰 모델을 바탕으로 희귀 사건 증거 항을 추정하고 고전 계획자에게 일반적인 사후 확률을 반환한다. 이 연구는 IBM Heron 하드웨어에서 순차적 Tiger POMDP 수평을 통해 이 서비스를 재사용할 수 있는지를 조사하며, 하드웨어 사례 연구를 통해 결과를 도출하였다. 연구에서는 증폭 없이, 보호된 Grover 증폭, 모든 단계 고정점 증폭을 비교하고, 반환된 사후 확률이 하류 행동에 영향을 미치는지를 확인하였다. 모든 단계 FPAA는 8단계 및 12단계 주행에서 Tiger 사후 확률을 보존하며, 20단계 및 32단계 제어는 동일한 운영 범위 내에 유지된다.
SageMath와 LLM 에이전트를 활용한 수학 문제 해결 평가
최근 AI 수학 분야에서는 자동 형식화와 정리 증명에 초점을 맞추고 있으며, 컴퓨터 대수 시스템(CAS)의 역할은 충분히 탐구되지 않았다. 본 연구에서는 LLM 추론과 SageMath의 검증 가능한 피드백을 결합한 ReAct 스타일의 에이전트 설정을 제안하고, 이를 통해 RealMath 벤치마크의 연구 수준 수학 문제를 해결하는 성능을 평가하였다. SageMath 접근을 통해 모든 평가 모델에서 평균 9.7%의 성능 향상이 있었으며, Qwen 3.7-Max는 SageMath의 혜택을 가장 많이 받았고, GPT-5.5는 75.2%의 해결률과 가장 낮은 토큰 사용량을 기록하였다. 이 연구는 CAS가 보강된 에이전트가 수학자들의 계산 탐색을 지원하는 유망한 방향임을 제시한다.
불균형 데이터셋에서의 마진 컨포멀 예측의 한계와 클래스 조건 수정
컨포멀 예측은 약물 발견에서 모델 신뢰성을 평가하는 데 사용되며, 선택한 오류율 alpha에 따라 실제 레이블을 포함하는 예측 세트를 반환한다. 그러나 불균형 데이터셋에서는 마진 컨포멀 예측이 소수 클래스의 커버리지를 심각하게 저하시킨다. 네 개의 데이터셋에서 소수 클래스의 커버리지가 혈뇌 장벽 침투에서는 64.8%, 임상 시험 독성에서는 4.2%로 떨어졌다. 클래스 조건 컨포멀 예측(Mondrian)은 모든 데이터셋에서 소수 클래스 커버리지를 목표로 회복시키며, 예측 세트 크기의 적당한 증가로 이를 달성한다.
D2PO: 동적 선호 최적화를 통한 확산 샘플러 최적화
D2PO(Dynamic Direct Preference Optimization)는 시간 단계 일정과 분류기 없는 가이드(CFG) 가중치에 따라 확산 샘플링 정책을 최적화하기 위한 프레임워크이다. 기존의 학생-교사 회귀 프레임워크의 한계를 해결하기 위해, D2PO는 샘플러 최적화를 선호 기반 정렬 문제로 재구성하고, 에너지 기반 모델(EBM)을 사용하여 선호 비교를 처리한다. 또한, 동적 선호를 도입하여 샘플링 정책이 학습됨에 따라 선호 샘플이 점진적으로 개선되도록 한다. 실험 결과, D2PO는 감각 품질과 더 잘 정렬되어 기존 회귀 기반 스케줄러보다 일관되게 우수한 성능을 보인다.
DeepSeek V3.2를 활용한 ARC-AGI-1의 비용 효율적 추론 모델
ARC-AGI-1에 대한 연구에서 DeepSeek V3.2라는 오픈-웨이트 모델을 사용하여, ARC-specific fine-tuning 없이도 패턴 발견과 프로그램 합성을 분리한 Explorer-Definer Pipeline을 도입하였다. 이 파이프라인은 400-task 평가 세트에서 57.50%의 pass@2를 기록하며, Reflective Orchestrator를 통해 67.25%의 pass@2를 달성하였다. 이 구조는 15.50%의 원샷 기준을 약 52포인트 향상시켰으며, 생성 기반의 성능 향상을 위한 재탐색을 통해 pass@1을 +9.81 pp 증가시켰다.
TriRoute: 조건부 계산을 통한 언어 모델 최적화
TriRoute는 언어 모델의 품질과 토큰당 추론 비용을 분리할 수 있는 조건부 계산 기법을 제안한다. 이 시스템은 주의 모드, 희소 FFN 전문가 집합, KV-cache 비트 폭을 조정하는 단일 경량 컨트롤러를 사용하여 각 토큰에 대해 조정된 정책을 생성한다. TriRoute는 160M에서 1.3B 파라미터의 디코더 전용 모델에서 MoD, MoE, KV-양자화의 조합보다 더 나은 성능을 보이며, 희귀 개체와 코드, 산술 문제에 대한 강인성을 유지한다.
Retrieval-Augmented Generation을 통한 공공 건강 질문 응답 개선
대형 언어 모델(LLMs)은 의료 질문 응답 벤치마크에서 유망한 결과를 보이지만, 공공 건강 분야에서의 사용은 허위 정보와 공식 지침의 빠른 변화로 제한된다. Retrieval-Augmented Generation(RAG)은 명시적으로 유지되는 코퍼스를 기반으로 응답을 강화하여 이러한 위험을 완화한다. 연구에서는 7,929개의 질문으로 구성된 PubHealthBench를 RAG 환경으로 확장하고, 다양한 임베딩 모델과 코퍼스 변형을 통해 밀집형, 희소형, 하이브리드 검색을 비교하였다. 하이브리드 검색은 일관되게 회수 및 순위 품질을 개선하며, 검색된 맥락을 제공하면 다양한 LLM에서 다중 선택 정확도가 크게 증가한다. 또한, LLM을 평가하기 위한 기준을 도입하여 신뢰성, 완전성, 명확성 및 사실 일관성을 검증하였다.
Meta Superintelligence, 세계 최고의 이미지/비디오 모델 보유
Meta Superintelligence가 세계에서 가장 뛰어난 2/3의 이미지 및 비디오 모델을 보유하고 있다는 소식이 전해졌다. Muse Image/Video에 대한 구체적인 기술 세부사항은 없지만, 이는 지난달 Microsoft MAI 모델보다 우수한 성과로 평가된다. Lilian Weng은 최근 포스트에서 하네스와 재귀적 자기 개선(RSI)의 관계를 논의하며, 하네스 엔지니어링이 자기 개선 및 자동 연구를 가능하게 할 것이라고 전망했다.
GraphRAG와 BYOKG를 통한 제약 연구의 데이터 통합
제약 연구에서 연구자들은 분산된 시스템에 흩어져 있는 방대한 과학 지식에 접근하고 연결하는 데 어려움을 겪고 있다. 초기 약물 발견에서 전통적인 방법의 성공률은 5%에 불과하며, 초기 스크리닝에는 6개월 이상 소요된다. Amazon Neptune Analytics를 활용한 GraphRAG는 연구자들이 자연어로 복잡한 질문을 하고 통합된 지식 그래프에서 즉각적인 증거 기반 통찰을 얻을 수 있도록 지원한다. 이 접근 방식은 연구자들이 정보 검색을 넘어 추론을 증폭하고, 기관의 기억을 보존하며, 숨겨진 통찰을 드러내는 데 도움을 준다.
ConlangCrafter, AI를 활용한 새로운 언어 생성
ConlangCrafter는 새로운 언어를 생성할 수 있는 AI 모델로, 2023년 6월 27일 발표된 논문에서 다양한 규칙을 준수하는 새로운 언어를 개발할 수 있음을 보고했다. 이 모델은 언어의 소리 구성(음운론), 단어와 문장 구조의 관계(형태통사론), 어휘 등 다양한 언어학적 규칙을 적용할 수 있으며, 무작위 숫자 생성기를 통해 매번 다른 언어를 만들어낸다. ConlangCrafter는 일반적인 LLM보다 약 두 배 더 다양한 언어를 생성하고, 70% 더 일관된 결과를 보여준다.
AI 모델의 과도한 사고가 보안 위험을 초래한다
대형 언어 모델(LLMs)은 문제를 단계별로 사고하는 능력 덕분에 더 복잡한 작업을 수행할 수 있게 되었지만, 이로 인해 공격자가 시스템을 느리게 만들 수 있는 취약점이 생겼다. 연구자들은 비논리적인 프롬프트를 사용해 모델이 과도하게 사고하도록 유도할 수 있는 방법을 개발했으며, 이로 인해 상업적 AI 모델에 대한 서비스 거부 공격이 가능해졌다. 이 연구는 DeepSeek-R1, Alibaba의 Qwen3-Thinking, OpenAI의 GPT-o3, Google의 Gemini 2.5 Flash 모델에서 효과적이었으며, 출력 길이가 최대 26배 증가하는 결과를 보였다.
J-space: 언어 모델의 글로벌 작업 공간으로서의 역할
Anthropic의 논문에서는 'J-space'라는 개념을 소개하며, 이는 언어 모델에서 의식적 추론을 가능하게 하는 '의식 접근' 영역이다. J-space는 Jacobian Lens라는 해석 가능성 기법에 기반하여 각 레이어에서 잔여 스트림의 변화가 모델의 출력에 미치는 평균 인과 효과를 계산한다. J-space는 모델의 내부 추론 개념을 포함하고 있으며, J-space 내에서 개념을 교환하면 출력이 변화하는 반면, J-space 외부의 요소는 출력에 영향을 미치지 않는다. J-space는 모델의 여러 프로세스에 방송되며, 이로 인해 모델의 사고 과정을 드러내는 데 활용될 수 있다.
Claude Sonnet 5 출시 및 AI 정책 관련 논의
미국의 100개 이상의 기관이 Mythos를 다시 확보했으나, Fable과 Sol은 여전히 대기 중이다. Claude Sonnet 5가 출시되었으며, 이는 Opus 4.8의 더 저렴하고 빠른 버전으로 소개되었다. 이번 주에는 Mythos Moment와 관련된 정책 논의 및 AI 사고 보고법(AI Incident Reporting Act)과 같은 새로운 법안도 언급되었다.