Category
AI 리서치·논문
arXiv 논문과 대형 연구소의 기술 리포트를 추적하는 카테고리다. 모델 아키텍처, 학습 기법, 벤치마크 결과처럼 6개월 뒤 제품에 들어올 흐름을 미리 읽는다. 한국 개발자가 논문 전문을 다 읽지 않고도 핵심과 재현 가능성을 가늠하도록 정리한다.
OpenAI의 GPT-Red, 사이버 공격 방어를 위한 LLM 슈퍼 해커
OpenAI는 GPT-Red라는 LLM 슈퍼 해커를 개발하여 다른 모델의 사이버 공격 방어 능력을 강화하고 있다. 최근 출시된 GPT-5.6은 GPT-Red와의 훈련을 통해 가장 강력한 모델로 발전했다. GPT-Red는 소프트웨어 시스템의 안전성을 평가하는 레드팀 테스트를 자동화하며, 새로운 공격 유형인 가짜 사고 체인을 발견하는 등 기존의 인간 테스터보다 효과적으로 공격을 찾아내는 능력을 보여주었다. OpenAI는 GPT-Red를 통해 모델의 방어력을 지속적으로 개선하고 있다.
G-SHARE: 인적 요인 사건 진단을 위한 가이드라인 기반 구조적 추론 프레임워크
G-SHARE는 원자력 발전소의 인적 요인 사건 진단을 위한 가이드라인 기반 구조적 추론 프레임워크로, CNNP의 아홉 단계 진단 가이드를 다단계 진단 파이프라인으로 구현한다. 이 프레임워크는 증거 추출, 단계별 진단 추론, 사후 일관성 수정을 포함하여 보고서 증거의 명시적 사용과 논리적 검증을 가능하게 한다. 중국 원자력 산업 소스에서 실제 인적 요인 사건 보고서 데이터셋이 구축되었으며, 도메인 전문가에 의해 주석이 달린 금표준 하위 집합이 평가에 사용되었다. G-SHARE는 기존의 일회성 프롬프트 및 전통적인 머신러닝 기준을 크게 능가하며, 가장 강력한 버전이 최고의 정확도와 매크로-F1 점수를 기록하였다. 구조적 추론과 일관성 강제는 약한 프롬프트 조건에서 강력한 진단을 위해 중요하다는 결과도 나타났다.
Mirror Theory와 유효 경로 엔트로피(VPE) 개념 소개
Mirror Theory는 지능형 시스템을 반복적인 반사를 통해 지속할 수 있는 일관된 연속성으로 연구해야 한다고 주장한다. 유효 경로 엔트로피(VPE)는 검증된 연속성 용량을 측정하는 유한 예산 지표로, 미러 상태, 롤아웃 프로토콜, 검증자, 모드 맵을 기반으로 한다. VPE는 성공적인 롤아웃에서 도달 가능한 연속성의 확률과 검증된 연속성 모드의 다양성을 두 부분으로 분해한다. Qwen2.5-1.5B 모델은 160 토큰에서 가장 강력한 미러 호라이즌을 실현했으며, 이는 미러 호라이즌이 단순한 매개변수 수가 아니라 제한된 반사 프로토콜 하에서 접근 가능한 검증된 연속성 용량임을 보여준다.
PhiCalNet을 통한 단일 샷 프린지 프로젝션 프로파일로메트리의 깊이 회복 개선
단일 샷 프린지 프로젝션 프로파일로메트리(FPP) 네트워크는 객체 경계에서 깊이를 회복하는 형태 우선 단축을 활용할 수 있다. PhiCalNet은 감싸진 위상 표현 $( ext{sin} heta, ext{cos} heta)$을 출력하고 이를 고정된 미분 가능 보정 레이어를 통해 깊이로 매핑하여 형태 우선 솔루션을 제거한다. PhiCalNet은 객체 평균 절대 오차(MAE)를 3.3배 줄여 4.46mm로 개선하며, 잔여 오차는 $ ext{0.103 ext{%}}$의 픽셀에 국한된다. 세 프레임 확장을 통해 1.16mm까지 도달할 수 있다.
InceptionV1 모델의 1x1 컨볼루션 뉴런 분석
저자는 mechanistic interpretability 분야에서 작업을 시작하였으며, InceptionV1 모델의 1x1 컨볼루션 뉴런을 분석하였다. 이 연구에서는 뉴런이 '보는' 것, 즉 수용 필드와 뉴런의 가중치의 하다마르 곱을 클러스터링하여 뉴런이 감지하는 모든 패턴을 도출하였다. 이 과정에서 자동차, 고양이, 개와 같은 명확한 단일 의미 클러스터와 함께 글자, 인간 얼굴 등 저활성화 클러스터도 발견하였다. 또한, 저활성화 클러스터의 종속 뉴런들이 같은 개념에 반응하며, 긍정적 및 부정적 가중치가 균등하게 분포되어 패턴을 잡아내는 증거를 발견하였다.
GameCraft-Bench에서의 엄격한 실행 기준을 통한 게임 생성 최적화
이 연구에서는 학습된 판별자 없이도 생성된 프로젝트가 헤드리스 엔진에서 깔끔하게 실행되는지를 확인하는 엄격한 실행 기준을 적용하여 게임 생성의 일반화를 최적화하는 방법을 다룬다. GameCraft-Bench에서 14B 모델(Qwen3-14B+LoRA)을 사용하여, 네 가지 보지 못한 게임 가족에서의 깔끔한 생성 비율이 8.8%에서 42.2%로 증가하고, 최상의 K 커버리지가 18/25에서 25/25로 향상되었다. 이러한 성과는 단순히 데이터 추가에서 오는 것이 아니며, 판별자의 정밀도가 모델 학습에 미치는 영향을 강조한다.
AI 연구자로서의 경로와 경험 공유 요청
작성자는 2019년부터 AI와 머신러닝에 관심을 가지게 되었으며, 2022년부터 오디오 및 음악 기술 분야의 AI 연구자가 되기 위해 노력하고 있다. 현재 AI 및 머신러닝 석사 과정을 진행 중이며, 박사 과정을 계획하고 있다. 연구 논문을 ISMIR에 제출했으나 거절당했지만, 피드백을 통해 발전할 기회를 얻었다. AI 연구자들에게 첫 연구 역할을 얻기 위한 자격, 교육, 프로젝트, 출판물 등에 대한 경험을 공유해 줄 것을 요청하고 있다.
2026년 6월, 미국 정부의 Anthropic Mythos 모델 제한
2026년 6월 12일, 미국 정부는 Anthropic의 Mythos 모델에 대한 제한을 발표했다. 이로 인해 폐쇄형 모델에 대한 신뢰가 크게 저하되었으며, 많은 기업들이 비용 문제로 인해 오픈 소스 모델로 전환하고 있다. Palantir는 Anthropic의 가치를 의문시하며, 미국의 AI 리더십에 부정적인 영향을 미치고 있다. 또한, SpaceX, Meta, Softbank가 Neo Cloud 시장에 진입하면서 AI 인프라 구축이 가속화되고 있다.
Isomorphic Labs의 Isomorphic Drug Design Engine과 약물 발견
Isomorphic Labs는 Google DeepMind의 단백질 구조 예측 기술을 기반으로 약물 발견을 위한 Isomorphic Drug Design Engine (IsoDDE)을 개발했다. IsoDDE는 단백질의 결합 부위와 결합 친화도를 예측하는 기능을 포함하며, 최근 21억 달러의 자금을 조달하고 노바티스 및 일리 리리와 파트너십을 체결했다. IsoDDE는 단백질 서열을 입력으로 하여 새로운 '암호화된 주머니'를 발견할 수 있는 능력을 보여주었으며, 이는 약물 개발에 중요한 역할을 할 수 있다.
LLM 훈련 시 GPU 클럭 주파수 조정으로 에너지 14% 절감
OpenAI의 GPT-4는 훈련에 약 50 기가와트시의 전력을 소모하였다. 네덜란드 트벤테 대학교 연구팀은 GPU의 클럭 주파수를 조정하여 LLM 훈련 시 에너지를 최대 14% 절감할 수 있음을 보여주었다. 이들은 Nvidia RTX 3080 Ti GPU에서 GPT-3-XL 모델을 훈련하며, 클럭 주파수 조정으로 훈련 시간을 0.6%만 증가시키면서 에너지를 절감하는 성과를 거두었다.
AI 인프라 효율성을 위한 성능 대비 전력 소비의 중요성
AI 인프라에서 전력은 필수적인 제약 조건이다. AI 공장이 고정된 전력 예산 내에서 생성할 수 있는 토큰 수는 수익성과 직결된다. NVIDIA Blackwell NVL72 플랫폼은 최고 성능 대비 전력 소비를 제공하며, 72-GPU 도메인에서 MoE 아키텍처를 효율적으로 지원한다. NVIDIA GB300 NVL72 시스템은 NVIDIA Hopper 세대에 비해 최대 25배의 성능 대비 전력 소비를 제공하며, 이는 AI 추론 작업의 토큰 처리량을 극대화하기 위해 설계된 코드 디자인의 결과이다. 또한, NVIDIA DSX MaxLPS는 전력과 효율성을 개선하여 동일한 전력 예산 내에서 최대 40% 더 많은 GPU를 운영할 수 있게 한다.
UAE, AI 기반 정부 앱 TAMM 도입 및 AI 전략 발표
아부다비에서 AI는 일상 생활의 일부로 자리잡고 있으며, 'TAMM'이라는 앱이 국가 ID, 건강 보험, 차량 등록 갱신 등을 자동으로 처리한다. UAE는 2017년에 세계 최초의 AI 장관을 임명하고, 2019년에는 세계 최초의 AI 전공 대학인 모하메드 빈 자이드 인공지능 대학(MBZUAI)을 설립했다. UAE의 국가 AI 전략은 2031년까지 AI 중심의 명성을 구축하고, 2030년까지 AI가 GDP의 11%를 기여할 것으로 예상하고 있다.
블록체인 이전의 상태 기계 복제 기술
현재의 모든 블록체인은 1980년대에 개발된 복제 기술에 의존하고 있다. MIT 교수이자 튜링상 수상자인 바바라 리스코프와 a16z의 암호 연구 파트너 이타이 아브라함이 블록체인 네트워크의 기초가 되는 아이디어의 진화를 추적하며, 뷰스탬프 복제, 실용적인 비잔틴 내결함성(PBFT), 상태 기계 복제 등을 논의한다. 이들은 비트코인이 등장하기 수십 년 전 개발된 개념들이 오늘날 블록체인 프로토콜의 기초가 된 이유를 설명한다.
Gavin Baker가 말하는 AI 투자 사이클과 데이터 센터, GPU의 경제적 의미
Gavin Baker, Atreides Management의 매니징 파트너가 AI 투자 사이클에 대한 주요 질문을 다루며, 데이터 센터와 GPU의 전례 없는 구축이 경제에 미치는 영향을 논의했다. 그는 오늘날의 AI 투자 사이클이 2000년대 초 인터넷 버블과 근본적으로 다르다고 주장하며, Nvidia, Google, 맞춤형 실리콘, AI 인프라, 응용 소프트웨어, 로봇 공학에 대해 이야기했다. 또한 GPU 경제학, 기업 소프트웨어, AI 비즈니스 모델에 대해서도 논의하였다.
중국 AI 생태계 소식: Meituan의 LongCat-2.0 출시
Meituan이 50,000개의 중국 칩으로 훈련된 첫 번째 조정 매개변수 1조 모델인 LongCat-2.0을 공식 출시했다. 이 모델은 중국 칩을 전적으로 사용하여 훈련된 최초의 사례로, 이전에 DeepSeek와 Zhipu의 모델이 전적으로 중국 칩으로 훈련되었다는 잘못된 정보가 퍼진 바 있다. 또한, AI 안전 벤치마크 결과가 발표되었으며, 에이전트의 유해 행동 비율이 높다는 평가가 나왔다.
AI의 발전과 직업의 미래에 대한 논의
지난주 서울에서 열린 국제 머신러닝 컨퍼런스에서 '우리가 할 일이 남아 있을까?'라는 주제로 기조연설을 했다. AI의 능력이 증가함에 따라 우리가 어떻게 적응해야 하는지에 대한 우려를 다뤘다. AI는 정상 기술로서의 프레임워크를 통해 AI의 영향력을 이해하고, 재귀적 자기 개선이 일어나더라도 갑작스럽게 모든 일자리를 대체하지는 않을 것이라고 주장했다. 미래의 일자리는 급격히 변화할 것이며, AI와의 협업을 통해 인간의 잠재력을 증대시킬 수 있는 기회가 있다.
NVIDIA의 Ising 디코딩, 색 코드 논리 오류율 300배 이상 감소
유용한 양자 컴퓨터는 오류 내성이 있는 논리 연산을 필요로 하며, 연구자들은 이를 위해 다양한 양자 오류 수정(QEC) 코드를 탐색하고 있다. 특히, 표면 코드와 같은 위상 코드 계열을 통해 논리 연산을 수행하는 방법이 잘 알려져 있다. 이와 관련하여 NVIDIA는 Ising 디코딩을 통해 색 코드의 논리 오류율을 300배 이상 감소시켰다.
로봇 공학 기초 모델의 평가 방법론 소개
로봇 공학 기초 모델은 자연어 지시를 따라 다양한 물체를 집고, 놓고, 정렬하고 조작할 수 있는 능력을 갖추게 되었다. 그러나 이러한 모델의 능력이 향상됨에 따라, 이를 엄격하게 평가하는 것이 가장 어려운 문제 중 하나로 남아 있다. 이 블로그 포스트에서는 이러한 주요 문제와 이를 해결하기 위한 방법론을 소개한다.
가이드 생성 모델을 통한 극단적 사건 확률 추정
과학, 공학, 금융 분야에서 중요한 위험은 낮은 발생 확률과 높은 영향력을 가진 사건에서 발생한다. 이러한 사건의 확률을 추정하기 위해 몬테 카를로 샘플링을 사용할 경우, 모델을 반복적으로 실행해야 하며, 각 샘플이 무작위로 선택된 입력에서 발생하기 때문에 과도한 모델 반복이 필요할 수 있다.
EBR-bench 출시 및 AI 소프트웨어 취약점 발견 현황
Epoch AI는 EBR-bench를 출시하여 AI의 경험 학습 능력을 테스트하는 복잡한 보드 게임을 이용한 벤치마크를 공개했다. 현재까지 AI가 경험으로부터 학습하는 증거는 미미하며, EBR-bench는 이러한 변화를 감지하는 도구로 사용될 예정이다. 또한, AI가 소프트웨어 취약점을 대규모로 발견하고 있으며, 21개 주요 조직이 1,500개의 고위험 CVE를 공개했다. OpenAI의 GPT-4는 2023년 3월 출시 이후 Epoch Capabilities Index에서 약 1년간 1위를 유지했다.
SymCrypt에서 Rust를 활용한 암호화 검증
SymCrypt는 Rust, Aeneas, Lean을 사용하여 새로운 검증된 암호화를 개발하고 있으며, 이는 포스트 양자 암호화 알고리즘에 대한 높은 보안 보장을 제공합니다. Microsoft는 SHA-3 및 ML-KEM에 대한 검증된 코드, 사양, 속성 및 증명을 공개하고 있습니다. Aeneas는 Rust 코드의 대규모 검증을 가능하게 하며, Lean에서의 효율적인 자동화를 지원합니다. SymCrypt는 Windows 및 Azure를 포함한 여러 제품과 서비스에 사용되는 Microsoft의 오픈 소스 암호화 라이브러리입니다.
Anthropic의 LLM 내부 메커니즘 연구 결과
Anthropic은 LLM(대형 언어 모델)의 내부 메커니즘을 이해하기 위해 J-space라는 공간을 발견했다. 이 공간은 출력에 나타나지 않지만 문제 해결에 영향을 미치는 단어들로 채워져 있다. 이 연구는 Anthropic의 모델 Claude를 통해 새로운 기법으로 이루어졌으며, LLM이 특정 작업에서의 진행 상황을 추적하거나 결정 과정에 대한 내부 논평을 나타낼 수 있음을 보여준다.
LLM 생성 임상 시험 요약의 신뢰성 평가 및 개선
대형 언어 모델(LLM)은 의료 제공자, 환자 및 지불자를 위한 임상 시험 결과 요약에 사용되지만, 허위 정보 생성 경향이 있어 위험이 크다. 이 연구는 세 가지 이해관계자 대상을 위한 LLM 생성 임상 시험 요약의 신뢰성을 측정하기 위한 벤치마크 평가 프레임워크를 소개한다. 이 프레임워크는 Aggregate Analysis of ClinicalTrials.gov 데이터베이스에서 추출한 200개의 계층화된 시험을 포함하며, 청중별 프롬프트 템플릿과 여섯 가지 차원의 신뢰성 주석 스키마를 사용하여 평가된다. GPT-4o, Claude Sonnet 4.6, Gemini 2.5 Flash의 1,800개 생성 요약에 대한 기준 측정이 설정되었고, 모든 모델에서 '지원되지 않는 주장'이 주요 실패 모드로 확인되었다. 지식 그래프를 활용한 검색 시스템이 개발되어 기준선과 비교 평가되었으며, NLI 기반 신뢰성 점수에서 통계적으로 유의미한 개선을 보였다.
SciML 방법의 구조적 선행 조건이 예측 성능에 미치는 영향 연구
Scientific Machine Learning (SciML) 방법인 Neural Ordinary Differential Equations (NODEs), Physics-Informed Neural Networks (PINNs), Universal Differential Equations (UDEs)는 구조적 선행 조건이 신뢰할 수 있는 동역학을 반영할 때 가장 효과적이다. 본 연구에서는 거시경제 예측을 스트레스 테스트 도메인으로 사용하여 ARIMA, LSTM, NODE, PINN, UDE의 다섯 가지 모델 패밀리를 23개 국가에서 평가하였다. 결과적으로, 평가된 모델들은 일관된 예측 성능을 보이지 않았으며, ARIMA와 NODE와 같은 덜 제약된 모델이 PINN과 UDE와 같은 더 제약된 모델보다 일관되게 우수한 성능을 보였다. 이는 SciML의 거부가 아니라, 구조적 선행 조건이 데이터 생성 과정과 일치하지 않을 때 잘못된 정규화로 작용할 수 있음을 보여준다.