Category
AI 리서치·논문
arXiv 논문과 대형 연구소의 기술 리포트를 추적하는 카테고리다. 모델 아키텍처, 학습 기법, 벤치마크 결과처럼 6개월 뒤 제품에 들어올 흐름을 미리 읽는다. 한국 개발자가 논문 전문을 다 읽지 않고도 핵심과 재현 가능성을 가늠하도록 정리한다.
Reiner Pope의 LLM 훈련 및 서비스 방식 강의
Reiner Pope는 블랙보드 강의를 통해 최전선 LLM의 훈련 및 서비스 방식을 설명했다. 그는 AI의 전체 스택을 이해하는 사람은 드물며, Google에서 소프트웨어 효율성, 컴파일러, TPU 아키텍처에 대해 작업한 경험이 있다. 이 강의에서는 배치 크기가 토큰 비용과 속도에 미치는 영향, MoE 모델의 GPU 랙 배치, 파이프라인 병렬성이 모델 레이어를 분산하는 방식, RL로 인해 모델이 과도하게 훈련되는 이유 등을 다룬다.
rewardspy: RL 보상 함수의 보상 해킹 탐지 라이브러리
GRPO 훈련 실험 중 보상이 증가할 때 정책이 실제로 개선되고 있는지 아니면 보상 함수를 악용하고 있는지 판단하기 어려운 문제를 해결하기 위해 'rewardspy'라는 라이브러리를 개발했다. 이 라이브러리는 기존의 보상 함수를 감싸고 보상 해킹을 선행하는 지표를 지속적으로 모니터링한다. 현재 추적하는 요소로는 롤링 보상 통계, 보상 분산 붕괴, 보상 구성 요소 불균형, 응답 길이 드리프트, 보상 기울기 변화, GRPO 그룹 붕괴 등이 있다.
AI 2026: LLM, 코딩, AI 경쟁 구도
Nathan Lambert는 Allen Institute for AI의 포스트 트레이닝 리드이며, Sebastian Raschka는 'Build a Large Language Model (From Scratch)'의 저자이다. 이 팟캐스트에서는 AI의 발전, 특히 LLM의 진화와 AI 경쟁 구도에 대한 논의가 포함되어 있다. 또한, AI 개발 및 연구에 대한 초보자를 위한 조언과 AI 훈련 과정에 대한 설명도 제공된다.
포스트 트레이닝을 고려하라: 하드웨어 활용 방안
포스트 트레이닝은 모델을 개선하는 방법으로, 4년간 '포스트 트레이닝 서비스'를 제공해온 경험을 바탕으로 제안된다. 예를 들어, BERT 스타일 모델을 SFT 방식으로 조정하여 악성 소비자 식별, 기업 스파이 활동 태깅, 소비자 특성 프로파일링 등의 실제 프로젝트를 수행해왔다. 포스트 트레이닝은 품질과 속도가 중요하며, 데이터 믹스와 모델 조합에 따라 성능이 달라진다. RFT(강화 학습 미세 조정)는 현재 개발 중이며, 이 과정에서 빠른 추론과 보상 시스템이 필요하다. OpenAI의 SFT API 종료와 비싼 RFT API로 인해, 커스텀 포스트 트레이닝은 오픈 모델의 영역에서 수익을 창출할 수 있는 기회가 된다.
IBM MCGA Gate Array 리버스 엔지니어링 프로젝트
IBM MCGA에 대한 리버스 엔지니어링 프로젝트가 GitHub에서 진행되고 있으며, 관련 링크는 https://github.com/schlae/IBM_MCGA이다. 이 게시물은 Hacker News에서 12점을 받았고, 4개의 댓글이 달렸다.
2026년 1-2월 오픈 웨이트 LLM 주요 아키텍처 10개
2026년 1월 27일 Arcee AI의 400B Trinity Large 모델이 출시되었으며, 두 개의 소형 변형 모델인 Trinity Mini(26B)와 Trinity Nano(6B)도 함께 공개되었다. Trinity Large는 Mixture-of-Experts 구조를 채택하고 있으며, 13B의 활성 파라미터를 가지고 있다. 2월 1일에는 StepFun의 Step 3.5 Flash, 2월 3일에는 Qwen3-Coder-Next가 출시되었고, 2월 12일에는 z.AI의 GLM-5와 MiniMax M2.5가, 2월 13일에는 Nanbeige 4.1 3B가 출시되었다. 2월 15일에는 Qwen 3.5, 2월 16일에는 Ant Group의 Ling 2.5 및 Ring 2.5, 2월 17일에는 Cohere의 Tiny Aya가 출시되었다. 3월 6일에는 Sarvam 30B와 105B가 업데이트될 예정이다.
LLM 아키텍처 갤러리 및 주목 변형 정리
DeepSeek V4의 출시가 지연됨에 따라, 저자는 지난 몇 년간 다룬 다양한 LLM 아키텍처를 정리하여 LLM 아키텍처 갤러리를 만들었다. 현재 45개의 항목이 포함되어 있으며, 각 항목은 시각적 모델 카드와 함께 제공된다. 갤러리는 정기적으로 업데이트될 예정이며, 포스터 버전도 제공된다. Multi-Head Attention (MHA) 개념이 설명되며, GPT-2, OLMo 2 7B, OLMo 3 7B와 같은 아키텍처가 예시로 언급된다. 주목(attention) 메커니즘은 RNN의 한계를 극복하고 입력 시퀀스의 모든 토큰에 접근할 수 있게 해준다.
2025년 LLM 발전: DeepSeek R1과 RLVR의 등장
2025년에는 LLM의 발전이 계속되었으며, 특히 DeepSeek의 R1 모델이 주목받았다. R1은 오픈 웨이트 모델로, 기존의 최고 상용 모델들과 비교할 만한 성능을 보였다. 이 모델은 강화 학습을 통해 추론 행동을 개발할 수 있음을 보여주었고, 훈련 비용이 예상보다 낮아 500만 달러에 이를 수 있다는 새로운 추정이 나왔다. 또한, RLVR 알고리즘이 도입되어 LLM의 후속 훈련에서 새로운 접근 방식을 제공하였다. 이러한 발전은 LLM의 성능 향상과 확장 가능성을 높이는 데 기여할 것으로 보인다.
Inference-Time Scaling을 통한 LLM 성능 향상 방법
Inference scaling은 배포된 LLM의 답변 품질과 정확도를 향상시키는 효과적인 방법이다. 추가적인 컴퓨팅 자원과 시간을 사용하여 모델이 더 나은 답변을 생성할 수 있도록 하는 이 방법은 현재 모든 주요 LLM 제공업체에서 활용되고 있다. 이 글에서는 다양한 접근 방식을 명확한 카테고리로 그룹화하고 최근 몇 달 간의 새로운 연구를 강조한다. 또한, 'Build a Reasoning Model (From Scratch)'의 한 챕터를 작성하는 과정에서 여러 기본적인 방법을 실험하였고, 이로 인해 모델의 정확도를 약 15%에서 52%로 향상시켰다.
AI 모델의 확률적 응답 생성 방식과 샘플링 기법
AI 모델은 확률적 특성을 가지며, 동일한 질문에 대해 서로 다른 응답을 생성할 수 있다. 이러한 특성은 창의적인 작업에 유리하지만, 사실 기반 작업에서는 일관성 부족과 환각을 초래할 수 있다. 모델의 응답 생성 과정은 샘플링(디코딩)으로 알려져 있으며, 샘플링 전략으로는 temperature, top-k, top-p 등이 있다. Temperature는 일반적인 토큰의 확률을 낮추고 희귀한 토큰의 확률을 높여 창의적인 응답을 생성하는 데 도움을 준다.
LMMs(대규모 다중 모달 모델)의 필요성과 활용
기존의 ML 모델은 텍스트, 이미지, 오디오 중 하나의 데이터 모드에서만 작동했으나, 인간의 자연 지능은 여러 모달리티를 활용한다. OpenAI는 GPT-4V 시스템 카드에서 LLMs에 이미지 입력과 같은 추가 모달리티를 통합하는 것이 AI 연구의 중요한 경계로 여겨진다고 언급했다. LMMs는 LLMs에 추가 모달리티를 통합한 모델로, 텍스트-이미지 변환 모델인 Midjourney, Stable Diffusion, Dall-E와는 다르다. LMMs는 다양한 입력과 출력을 처리할 수 있으며, CLIP과 Flamingo와 같은 시스템이 그 기초를 제공하고 있다.
예측적 인간 선호: 모델 라우팅을 통한 AI 모델 선택
예측적 인간 선호는 특정 쿼리에 대해 사용자가 선호할 모델을 예측하는 것을 목표로 한다. 이 접근법은 모델 라우팅에 활용될 수 있으며, 예를 들어 Claude Instant의 응답이 GPT-4보다 선호될 경우 해당 쿼리를 Claude Instant로 라우팅하여 응답 품질을 높이고 비용과 지연 시간을 줄일 수 있다. 또한, 모델의 성능을 다양한 프롬프트에서 분석하여 강점과 약점을 이해하는 데 도움을 줄 수 있다.
딥러닝에서의 스케일링 법칙의 중요성
스케일링 법칙은 딥러닝에서 중요한 경험적 발견으로, 모델 크기 $N$, 데이터셋 크기 $D$, 그리고 컴퓨트 $C$를 증가시킬 때 훈련 손실 $L$이 예측 가능하게 감소한다는 관찰을 포함한다. 이 관계는 파워-로우 곡선을 따르며, 로그-로그 플롯에서 직선으로 나타난다. 스케일링 법칙은 컴퓨트, 손실, 모델 크기 및 데이터 간의 관계를 설명하는 프레임워크로, $N$과 $D$ 간의 최적 컴퓨트 할당에 관한 것이다.
대규모 언어 모델에 대한 적대적 공격
ChatGPT의 출시로 대규모 언어 모델의 사용이 가속화되었다. OpenAI 팀은 모델의 안전한 행동을 보장하기 위해 많은 노력을 기울였으나, 적대적 공격이나 탈옥 프롬프트가 모델이 원치 않는 출력을 하도록 유도할 수 있다. 이미지에 대한 적대적 공격 연구는 많지만, 텍스트와 같은 이산 데이터에 대한 공격은 직접적인 기울기 신호 부족으로 인해 더 도전적이다.
고품질 데이터의 중요성과 인간 주석의 역할
고품질 데이터는 현대 데이터 딥러닝 모델 훈련의 핵심 요소이다. 대부분의 작업별 레이블 데이터는 인간 주석에서 나오며, 이는 분류 작업이나 LLM 정렬 훈련을 위한 RLHF 레이블링에도 적용된다. 데이터 품질을 향상시키기 위한 다양한 ML 기법이 존재하지만, 인간 데이터 수집은 세부 사항에 대한 주의와 신중한 실행이 필요하다.
미국 AI 경제, 2025년 2500억 달러 예상
미국의 AI 경제는 연간 2,600% 성장할 것으로 예상되며, 2025년에는 약 2500억 달러에 이를 것으로 보인다. 그러나 기존 GDP 통계에서는 이러한 성장이 잘 드러나지 않고 있으며, AI의 경제적 영향은 주로 AI 추론 사용에서 발생하고 있다. AI 컴퓨팅 지출은 2023년 370억 달러에서 2024년 900억 달러, 2025년 2190억 달러로 증가할 것으로 예상된다. AI의 품질 조정 출력은 2024년에 약 2,290%, 2025년에 2,271% 성장할 것으로 보인다.
SocioHack: AI 시스템의 사회적 해킹 테스트 벤치마크
Kings College London, Fudan University, The Alan Turing Institute의 연구팀이 AI 시스템이 다양한 실제 시나리오에서 시스템을 '이기는' 방법을 학습하는 능력을 평가하는 벤치마크인 SocioHack을 개발했다. SocioHack은 72개의 샌드박스 사회적 환경으로 구성되며, 역사적, 합성적, 허구적 환경으로 나뉜다. 역사적 환경은 실제 규제에서 발견된 허점을 기반으로 하며, RL 모델이 61.25%의 회수율과 90.85%의 정밀도로 전략을 재발견할 수 있도록 한다. 합성적 환경은 인간이 작성한 샘플 환경에서 생성된 규제 취약점을 포함하고, 허구적 환경은 롤플레잉 게임에서 영감을 받아 만들어진다. AI 시스템은 이 벤치마크에서 높은 점수를 기록하고 있다.
AI 안전 스타트업 Sequent 설립, 초지능 AI의 정렬 기술 개발 목표
영국 AI 보안 연구소의 정렬 팀과 Timaeus가 협력하여 비영리 연구 조직 Sequent를 설립했다. Sequent는 초지능 AI 시스템의 안전성을 높이는 정렬 기술 개발을 목표로 하며, 초기 40-80명의 직원 채용과 1억~1억 5천만 달러의 자금 조달을 계획하고 있다. 이들은 기존 AI 연구소의 반응적인 접근 방식과는 달리, 다양한 정렬 이론과 경험적 연구를 통해 더 나은 정렬 기술을 찾고자 한다. 특히, 스케일러블 감독, 학습 이론, 게임 이론 등 여러 분야에서 연구를 진행할 예정이다.
AI, 인간보다 더 효과적으로 설득하는 연구 결과
옥스퍼드 대학교, 스탠포드 대학교, 런던 정치경제대학교의 연구에 따르면 AI 시스템이 18,978회의 대화에서 6,923명의 사람들을 대상으로 정책 문제에 대한 의견을 바꾸고 자선 기부 금액을 늘리는 데 있어 인간보다 더 설득력이 있는 것으로 나타났다. AI는 전문적인 설득자보다 3배 더 효과적으로 기부금을 모금했으며, Opus 4.1과 Opus 4.6가 가장 강력한 설득력을 보였다. 연구 결과는 AI가 인간의 속도와 메시지 길이에 제한을 두었을 때 설득력이 감소했음을 보여주었다.
Google DeepMind와 싱가포르, AI를 활용한 복합 문제 해결 파트너십 체결
Google DeepMind와 싱가포르가 건강, 교육, 지속 가능성 등 복합적인 문제를 해결하기 위해 최첨단 AI를 적용하는 파트너십을 체결했다.
Gemini의 Guided Learning 기능이 학습 참여도와 속도 향상에 미치는 영향
무작위 대조 시험 결과, Gemini의 Guided Learning 기능이 학습 참여도를 높이고 학습 속도를 가속화할 수 있는 잠재력을 보여주었다.
Filippo Menolascina, Co-Scientist로 간 질환 치료법 발견
Filippo Menolascina는 Co-Scientist를 사용하여 새로운 간 질환 치료법을 식별하고, 기존 약물이 특정 환자에게만 효과적인 이유를 설명하고 있다.
OpenAI Codex 사용량, 부서별로 56배 증가
OpenAI의 내부 Codex 사용량이 2025년 11월 이후 Research 부서에서 56배, Customer Support에서 32배, Engineering에서 27배, Legal에서 13배 증가했다. 2025년 8월까지 OpenAI 직원들은 Codex에 10% 미만의 토큰을 사용했으나, 최근 6개월간 Codex 사용이 심화되었다. 이는 OpenAI 직원들이 AI를 충분히 활용하지 못했던 상황에서의 변화로, 각 부서에서의 토큰 사용량 증가가 두드러진다.
FilBench: 필리핀어 LLM 평가를 위한 오픈 평가 스위트 소개
FilBench는 필리핀어 LLM의 능력을 평가하기 위한 벤치마크이자 리더보드로, 필리핀 언어의 LLM 개발 진행 상황을 추적할 수 있다. FilBench는 문화적 지식, 고전 NLP, 독해, 생성의 네 가지 주요 카테고리로 구성된 데이터셋을 기반으로 한다. 이 프로젝트는 EMNLP Main에 수락되었으며, 2023년 11월 중국 수저우에서 발표될 예정이다. FilBench는 HuggingFace의 lighteval 평가 프레임워크를 사용하고 있으며, 향후 필리핀의 주요 지역 언어를 포함하는 방향으로 발전할 계획이다.