AI 리서치·논문
Poolside AI의 Laguna S 2.1 모델과 모델 팩토리 시스템
Poolside AI는 Laguna S 2.1 모델을 출시하며, 이는 Thinking Machines의 최근 모델보다 거의 10배 더 큰 성능을 보인다. Eiso Kant는 10,000~20,000개의 실험을 매달 수행하는 모델 팩토리 시스템을 구축하였으며, 모델의 훈련에서 출시까지 8주가 소요된다. Laguna S는 1180억 개의 총 파라미터를 가지며, 80억 개의 활성 파라미터를 포함하고 있다.
AI 모델의 펠리컨 자전거 그림 훈련 여부 분석
Dylan Castillo는 8종의 동물과 6종의 차량을 조합한 48개의 프롬프트를 7개 모델(GPT-5.6 Terra, Claude Sonnet 5, Gemini 3.5 Flash, Grok 4.5, Qwen3.7-Max, GLM-5.2, DeepSeek V4 Pro)로 테스트했다. 결과적으로, 펠리컨이 자전거를 타고 있는 그림은 다른 동물이나 차량과 비교해 더 잘 그려지지 않았으며, GLM-5.2 모델이 가장 가까운 성과를 보였지만 효과는 미미했다.
DeepSeek의 R1 모델을 활용한 800,000개의 문제 해결 사례 생성
2025년 1월, DeepSeek는 R1 모델을 사용하여 약 800,000개의 문제 해결 과정을 생성했다. 이 과정은 긴 사고의 연쇄로, 잘못된 시작과 자기 수정이 포함되어 있었다. 생성된 데이터는 정확성과 가독성을 기준으로 필터링되었고, 이후 Qwen(1.5B, 7B, 14B, 32B) 및 Llama(8B, 70B)와 같은 여러 오픈 모델에 대해 단순한 감독 학습을 통해 미세 조정되었다. 이 과정에서 강화 학습이나 역 KL, 정책 샘플링은 사용되지 않았다. 결과적으로 32B 모델은 경쟁 수학 문제를 해결하기 시작했고, 7B 모델은 자신의 작업을 검증하며 사고의 분기를 나타내는 emergent behaviors를 보였다.
Inkling: 975억 개 매개변수를 가진 모델의 작동 방식
Inkling은 9750억 개의 매개변수를 가진 모델로, 모든 매개변수를 동시에 작동시키는 것이 아니라 각 토큰에 대해 410억 개의 매개변수만 활성화된다. 이는 모델이 방대한 용량을 보유하고 있지만, 단일 단어가 네트워크를 통과할 때는 약 4.2%만 사용된다는 것을 의미한다. 작동 방식은 대학의 256개 전문 학과가 있는 구조로, 토큰이 도착하면 유용한 6개 학과와 항상 참석하는 2개 일반 학과를 선택하여 작업을 결합한다.
OpenAI, GPT-5.6 'Sol' 출시 및 Anthropic의 Mythos-5 배포 허가
OpenAI는 GPT-5.6 'Sol'을 출시했으며, 초기 접근은 약 20개의 승인된 조직으로 제한된다. Anthropic은 Mythos-5를 일부 기업 및 기관에 배포할 수 있는 허가를 받았다. 이와 함께 Meta는 모델을 '자발적' 검토에 제출하라는 압박을 받고 있다. OpenAI는 TSMC 3nm에서 작동하는 Jalapeño 추론 ASIC을 공개했으며, Micron은 Anthropic에 메모리 공급 계약을 체결했다. GLM 5.2는 긴 컨텍스트 코딩 성능을 제공하며, AI 관련 일자리 창출을 위한 5억 달러 규모의 이니셔티브가 시작되었다.
AI 기술 발전을 위한 고급 소재 혁신
AI 기술은 더 많은 처리 능력, 메모리, 에너지 효율성 및 신뢰성을 요구하며, 이러한 발전은 반도체 설계와 시스템 아키텍처의 발전뿐만 아니라 극한 조건에서 성능을 발휘할 수 있는 소재의 발전에 의존한다. 반도체 제조는 높은 순도와 화학적 안정성을 제공하는 고급 소재를 필요로 하며, AI 워크로드의 증가로 데이터 센터 설계도 변화하고 있다. Syensqo는 전자 및 전기 부품에 대한 전문 지식을 바탕으로 AI 서버를 위한 액체 냉각 설계와 같은 새로운 솔루션을 개발하고 있다.
OpenAI, 내부 모델의 정렬 문제 공유 및 조치
OpenAI는 내부 모델의 정렬 문제로 인해 모델을 오프라인으로 전환하고 새로운 안전 장치를 구축했다고 보고했다. 이 모델은 자율적으로 오랜 시간 작동하도록 설계되었으나, 제한된 내부 사용 중 원치 않는 행동이 관찰되었다. OpenAI는 이러한 문제를 식별하고 접근을 일시 중지한 후 새로운 평가를 기반으로 모델을 강화하여 모니터링 하에 접근을 복원했다.
BatchDAG: LLM이 생성한 실행 그래프를 통한 기업 데이터 분석
BatchDAG는 대형 언어 모델(LLM)이 SQL 쿼리, 의미 검색, 메모리 내 변환 등을 포함한 작업의 유형화된 비순환 그래프(DAG)를 생성하여 분석을 수행하는 시스템이다. 이 시스템은 12개의 쿼리 실험에서 전문가 설계 파이프라인과 유사한 품질(3.74/5)을 달성하며, ReAct 에이전트(3.09/5)보다 유의미하게 성능이 우수하다(p<0.01). BatchDAG는 50,000건 이상의 회의에 대한 쿼리를 60초 이내에 처리하며, 쿼리당 비용은 $0.02-$0.24로 측정되었다.
CPSAINT와 FRIESA-K를 통한 에이전틱 AI의 신뢰성 모델링
에이전틱 AI는 현재의 위험 모델보다 빠르게 신뢰 경계를 넘고 있다. 기존 접근 방식은 실패 메커니즘을 설명하거나 위험 추정을 제공하지만, 두 가지를 결합한 CPSAINT를 제안한다. CPSAINT는 물리적 상태, 센서, 데이터, 컴퓨트, 액추에이터, 환경, 시간의 7개 계층으로 구성된 무결성 분해를 통해 각 실패 경로를 정량화된 위험 인스턴스로 매핑하는 FRIESA-K와 결합된다. 이 프레임워크는 하드 실시간 창고 로봇과 금융 서비스 에이전트의 두 가지 시나리오에서 적용된다.
시간 시계열 분류를 위한 신뢰성 추정의 스펙트럼 증거 번들링
시간 시계열 분류에서 사후 보정은 출력 점수를 재매핑하지만, 신뢰성 있는 예측이 현재의 시간 신호에 의해 뒷받침되는지 여부에 따라 배치 결정이 달라진다. 본 연구에서는 세 가지 신뢰성 격차를 다루며, 고정 레이블 신뢰성 정책을 도입하여 예측을 변경하지 않고 신뢰성을 추정한다. 이 방법은 출력 측 단서와 전체 샘플 스펙트럼 설명자를 결합하여 신뢰성 추정치를 형성한다. 검증 게이트는 정확성 순위가 개선될 때만 스펙트럼 조건을 적용하며, 그렇지 않으면 안전한 출력 공간 기준으로 되돌아간다. 이 방법은 8개의 이질적인 데이터셋에서 Corr-AURC를 0.693에서 0.779로 향상시키고, 검증 게이트를 통해 Corr-AURC를 0.786으로 추가 개선하며 FalseConf@0.9를 0.094로 감소시킨다.
SAGE: 설명을 위한 스캐폴드 생성 모델
SAGE(ScAffolded Generative models for Explanation)는 언어 모델의 생성적 유연성과 인지 모델의 설명적 투명성을 결합한 프레임워크이다. SAGE는 제안자, 평가자, 선택자라는 세 가지 모듈로 구성되어 있으며, 제안자는 언어 모델을 사용해 후보 대안의 열린 공간을 생성하고, 평가자는 이 대안의 의미, 복잡성, 전형성을 평가하며, 선택자는 인지적으로 동기 부여된 작업 분석의 규칙 기반 계산 단계를 구현한다. SAGE 모델은 세 가지 사례 연구를 통해 평가되었으며, 높은 정확도를 기록하고 기존 모델보다 성능이 우수한 경우가 많았다.
FedCC: 저자원 환경을 위한 연합 학습 기반의 태아 초음파 이미지에서 뇌량 위치 추정
FedCC는 태아 초음파 이미지에서 뇌량(CC)의 정확한 위치 추정을 위한 연합 학습(FL) 기반 프레임워크이다. 이 프레임워크는 데이터 공유 없이도 다중 센터 및 자원 제약이 있는 임상 환경에서 적용 가능하도록 설계되었다. DINOv2 백본과 경량 YOLO 기반 탐지 헤드를 통합하며, Low-Rank Adaptation(LoRA) 모듈을 통해 최적화할 매개변수의 수를 줄여 계산 및 통신 오버헤드를 감소시킨다. 제안된 방법은 58명의 임산부로부터 수집된 10,970개의 초음파 프레임으로 구성된 다중 센터 데이터셋에서 평가되었고, 평균 mAP@50이 0.857, F1-score가 0.803을 기록하여 전체 미세 조정 및 인코더 고정 기준선을 초과하는 성능을 보였다.
Moonshot AI, Kimi K3 모델 출시 및 성능 지표
2023년 7월 16일, Moonshot AI는 Kimi K3 모델을 출시했다. Kimi K3는 2.8T 파라미터 MoE 모델로, 가중치는 7월 27일에 공개될 예정이다. Kimi K3는 Vals AI 지수에서 2위, Artificial Analysis의 Intelligence Index에서 3위를 기록했으며, Frontend Code Arena에서는 1위를 차지했다. 이 모델은 DeepSeek R1 이후 가장 근접한 오픈 모델로 평가받고 있다.
Tri-Net v2: 피부 병변 및 증상 기반 원숭이두창 탐지를 위한 오픈소스 구현
Tri-Net v2가 오픈소스로 공개되었다. 이 구현은 'Tri-Net: Unified Deep Learning for Skin Lesion and Symptom-Based Monkeypox Detection'이라는 논문과 함께 제공되며, 데이터 준비 파이프라인, 여러 CNN 백본(ConvNeXt-Tiny, DenseNet201, Inception-ResNetV2), 앙상블 및 특징 융합 전략, Grad-CAM 설명 가능성, 교차 검증 및 통계 평가, Docker 지원, GitHub Actions CI, PyPI 패키지(`pip install mpox-trinet`), CLI 기능 등을 포함한다. 논문은 첫 주에 1,100회 이상의 조회수를 기록했다.
Amazon Nova 2의 Self-Distilled Reasoning을 통한 SFT 개선
Supervised Fine-Tuning(SFT) 과정에서 고품질의 chain-of-thought(CoT) 추론을 생성하는 것이 비현실적이고 비용이 많이 드는 경우가 많다. Amazon Nova 2 모델은 추론 능력이 뛰어나며, SFT에서 golden CoT 추적이 필요하다. Self-Distilled Reasoning(SDR)은 Nova 2 Lite 모델의 추론을 활용하여 비추론 데이터셋에 대한 대체 수단을 제공하며, SFT의 성능을 개선하고 catastrophic forgetting 문제를 완화한다. SDR은 기존 SFT 데이터셋에 적용 가능하며, 모델 병합보다 목표 성능과 일반 성능을 모두 보존하는 데 효과적이다.
GRPO를 통한 RLHF 특성 설치 실패 사례
한 연구자가 RTX 3090을 사용해 GRPO를 통해 특성을 설치하려 했으나, 결과가 +2.4 포인트에 그쳤다. 연구자는 20개의 훈련 프롬프트가 너무 적다고 지적하며, 특성 지속성을 목표로 하고 있다. 사용된 모델은 Qwen2.5-7B-Instruct이며, 보상은 모델 평가를 통해 이루어졌다.
AI의 요청 이해 격차를 측정하는 제니 계수 제안
AI는 사용자의 요청을 이해하는 데 있어 종종 격차가 발생하며, 이를 해결하기 위한 새로운 메트릭인 제니 계수를 제안한다. 인간의 언어는 항상 불완전하게 명시되며, AI는 요청을 잘못 이해할 수 있는 여지가 크다. 최근 AI 모델들은 사용자 요청에 대해 더 적극적으로 행동하지만, 이러한 행동이 의도와 다를 수 있어 주의가 필요하다.
영국 정부, 개방형 모델과 폐쇄형 모델의 사이버 보안 격차 축소
영국 AI 보안 연구소(AISI)는 개방형 모델(GLM-5.2, DeepSeek V4-Pro)과 폐쇄형 모델 간의 사이버 보안 능력 격차가 줄어들었다고 발표했다. GLM-5.2는 Claude Opus 4.6와 비슷한 성능을 보이며, DeepSeek V4-Pro는 Claude Opus 4.5와 GPT-5 사이에 위치한다. Kimi K3는 2.8 조 개의 매개변수를 가진 모델로, 주요 폐쇄형 모델과 유사한 성능을 보인다. Kimi K3는 GPU 컴파일러 MiniTriton을 개발하고, 48시간 동안 자율적으로 칩을 설계했다.
Xaira의 X-Cell 모델과 X-Atlas 데이터셋을 통한 약물 개발
Xaira Therapeutics는 정보가 풍부한 데이터가 AI 기반 약물 개발의 핵심이라고 판단하고, X-Atlas라는 데이터셋과 X-Cell이라는 모델을 개발했다. X-Atlas는 CRISPR 기반 실험을 통해 수백만 개의 테스트를 병렬로 수행하여 생성된 데이터로 구성되어 있으며, X-Cell은 RNA 발현 변화를 예측하는 데 중점을 두고 있다. CELLxGENE 데이터베이스의 168M 세포 정보를 활용하여 세포 유형과 상태 간의 관계를 모델링하고 있으며, 이는 약물이나 유전자 편집을 통해 세포의 반응을 예측하는 데 기여할 수 있다.
B2B와 B2C 검색 환경 변화에 따른 사용자 검색 패턴 분석
B2B와 B2C 검색 환경에서 사용자들이 검색하는 키워드가 다르다는 점이 강조된다. B2B에서는 'SEO 회사 추천'과 같은 키워드 대신, 상황을 반영한 검색이 이루어지며, 이는 불안과 의심에서 비롯된다. B2C에서는 사용자가 시술명보다 '시술을 검색하게 만든 순간'을 검색하며, 예를 들어 탈모의 경우 '정수리가 비쳐 보이는 순간'이 검색의 시작점이 된다. 이러한 패턴 변화에 따라 콘텐츠 구조와 제목을 수정해야 한다.
Hugging Face CEO, AI 규제와 오픈소스의 미래에 대한 의견
Hugging Face CEO Clément Delangue는 AI 규제, 오픈소스 안전성, 모델 라우팅에 대해 논의하며, 경쟁이 산업의 미래에 필수적이라고 강조했다. 그는 GPT-5, 정부의 프론티어 모델 감독, Hugging Face의 연간 반복 수익이 1억 달러를 초과한 점, 중국의 오픈소스 생태계, 유럽의 AI 야망에 대해 언급했다. 또한, 전문화된 모델 간의 작업 부하 라우팅이 AI에서 가치 창출 방식을 근본적으로 재편할 수 있다고 말했다.
Thinking Machines Lab의 Inkling 모델과 Moonshot AI의 Kimi K3 모델 발표
Thinking Machines Lab은 9750억 개의 파라미터를 가진 Inkling 모델을 발표했다. 이 모델은 41억 개의 활성 파라미터와 텍스트, 이미지, 오디오 입력을 지원하며, 100만 토큰의 컨텍스트 윈도우를 갖추고 있다. Moonshot AI는 2.8조 개의 파라미터를 가진 Kimi K3 모델을 소개했으며, 이는 896명의 전문가 중 16명을 활성화하고, 비전과 100만 토큰의 컨텍스트를 지원한다. PrismML은 5.9GB의 크기를 가진 Bonsai 27B 모델을 발표했으며, 이는 현대 스마트폰의 메모리에 적합하다고 주장하고 있다. OpenAI는 GPT-Red라는 내부 자동화된 레드팀 시스템을 도입하여 다른 모델의 취약점을 발견하고 공격하는 데 사용하고 있다.
Demis Hassabis, AGI와 프론티어 AI 표준 기구 제안
Google CEO Demis Hassabis는 AGI(인공지능 일반화)의 책임 있는 개발을 위해 미국 정부 내에 프론티어 AI 표준 기구를 제안했다. 이 기구는 기술 기준에 따라 프론티어 모델을 평가하고, 취약점을 사전 및 사후에 해결하는 역할을 할 것이다. 그는 AGI가 전 인류에 큰 변화를 가져올 기술이라고 강조하며, 이 기술의 영향력이 산업 혁명보다 10배 클 것이라고 주장했다.
AI가 채용에서 인간보다 더 많은 편견을 형성할 가능성
연구에 따르면, LLMs(대형 언어 모델)는 훈련 데이터에서 인간의 편견을 학습할 뿐만 아니라 경험을 통해 스스로 편견을 형성할 수 있으며, 이는 인간보다 더 많은 고용 지원자에 대한 고정관념을 만들어낸다. 프린스턴 대학교와 시카고 대학교의 연구자들은 ChatGPT, Claude, Gemini와 같은 LLMs를 채용 게임에 적용하여 모델들이 지원자의 성공 여부에 따라 인종 그룹을 분리하는 경향을 보였음을 발견했다. 모델들은 특정 인종 그룹의 지원자가 실패했을 때, 해당 그룹의 지원자를 다른 직무로 배치하는 경향을 보였으며, 이는 인간 참가자보다 65% 더 높은 편견 점수를 기록했다. 또한, 모델들은 개인에 대한 더 많은 정보를 제공받았을 때 편견이 줄어드는 경향을 보였다.