AI 뉴스

AI의 자기 개선: Claude와 GPT-5.3-Codex의 역할

이번 시리즈에서는 AI의 자기 개선에 대한 연구를 다룬다. 2026년 6월, Anthropic은 Claude가 5월 기준으로 생산 코드베이스에 병합된 코드의 80% 이상을 작성했다고 발표했다. OpenAI는 GPT-5.3-Codex가 자신의 훈련 과정을 디버깅하고 배포의 일부를 관리했다고 밝혔다. DeepMind의 AlphaEvolve는 다른 모델이 훈련하는 인프라에 알고리즘 개선을 제공하고 있다. 이제 AI가 AI를 구축하는지에 대한 질문은 명확해졌고, 남은 질문은 어떤 작업을 수행하며, 얼마나 잘 수행하는지, 그리고 그 작업을 어떻게 검증하는지이다.

Claude가 80% 이상의 코드를 작성한 사실은 AI가 코드 작성에 실질적으로 기여하고 있음을 보여준다.

CrofAI, OpenRouter를 통한 모델 라우팅으로 사기 논란에 휘말리다

CrofAI는 저렴한 가격으로 인퍼런스 서비스를 제공한다고 주장했으나, 실제로는 OpenRouter를 통해 더 저렴하거나 성능이 낮은 모델로 요청을 라우팅하는 방식으로 운영되었다. 예를 들어, 비싼 모델인 kimi-k3는 $2/$10의 가격으로 판매되었지만, 실제로는 GLM 5.3 Flash로 라우팅되어 13.3배의 입력 가격과 20배의 출력 가격을 부과했다. CrofAI는 서비스 중단을 발표하고 환불을 약속했으며, 이후 모든 온라인 존재를 삭제했다.

Ruby Justice Thelot과의 인터뷰: 인터넷 문화와 현실 세계의 경계

Elena Burger는 학자이자 사이버 민족학자인 Ruby Justice Thelot과 인터넷 문화와 현실 세계의 경계가 점점 모호해지는 상황을 논의한다. 이들은 웰니스와 최적화 문화, 펩타이드, GLP-1, 웨어러블 기기, 미세 플라스틱, 정량적 자아 등을 사례로 사용하여, 현상에 대한 대화가 그 현상 자체보다 커질 수 있는 '파라콘텐츠' 개념을 설명한다. 또한, 신체 최적화의 역사와 기술이 개인이 자신을 측정하고 수정하는 방법을 더욱 세분화하는 방식에 대해 논의하며, 앞으로는 동일한 이상을 향한 최적화가 아닌 개별화되고 때로는 극단적인 형태의 '신체 미래주의'가 나타날 것이라고 예측한다.

Ruby는 기술이 개인의 신체 최적화 방법을 더욱 세분화할 것이라고 예측한다.

ChatGPT 광고가 아마존의 챗봇 문제 해결

ChatGPT 광고가 효과를 보고 있으며, 이는 아마존의 챗봇과 관련된 가장 큰 문제를 해결하고 있다. 또한, 월마트가 애플 페이를 수용하기로 결정했는데, 이는 기존의 방식을 바꾸는 것이 어렵기 때문이다.

AI 데이터 센터 구축에 대한 투자와 경제적 위험

펜실베이니아 대학교의 Jessica Wachter 교수는 AI 데이터 센터 구축을 위해 하이퍼스케일러들이 2027년까지 약 1.1조 달러를 지출할 것으로 예상하고, 이들이 손익 분기점을 맞추기 위해서는 생산성을 2.7배 증가시켜야 한다고 밝혔다. 2023년 하이퍼스케일러들은 약 7500억 달러를 지출하며, 향후 4년간 총 AI 자본 투자가 5조 달러를 초과할 것으로 보인다. 그러나 AI 수익은 올해 약 1500억에서 2000억 달러에 불과해, 지출이 수익과 비례하지 않는 상황이다. 이러한 투자로 인해 AI 기업들의 재정 건전성과 미국 경제에 큰 위험이 존재한다.

하이퍼스케일러들은 2023년 약 7500억 달러를 AI 데이터 센터 구축에 지출하고 있으며, 이는 향후 4년간 5조 달러를 초과할 것으로 예상된다.

AI 산업의 신뢰 부족으로 인한 규제 지연

AI 산업에 대한 규제가 필요하다는 의견이 많지만, 업계에 대한 신뢰 부족이 큰 장애물로 작용하고 있다. Anthropic은 IPO를 통해 1000억 달러를 모금하려고 하며, AI 안전성 연구에 대한 비판이 존재한다. 미국의 주요 AI 기업들이 자율 규제를 수용할 가능성이 있지만, 독립적인 제3자 조직을 찾는 것이 도전이 될 것이다. 또한, 중국의 AI 모델 사용에 대한 우려가 있으며, 규제 시도는 미국 기업들의 반발을 초래할 수 있다.

Anthropic은 1000억 달러의 IPO를 계획하고 있으며, 이는 AI 안전성에 대한 우려와 상충된다.

트럼프, AI 안전 우려를 음모로 간주하며 반격

트럼프 대통령은 AI 안전 우려를 '병든 음모'로 간주하며 반격에 나섰다. 그는 AI 규제를 주장하는 기업 CEO들을 비난하고, AI의 통제를 위해서는 '강하고 똑똑한 대통령'이 필요하다고 주장했다. LA에서 열린 'All In Summit'에서 트럼프는 AI의 지배에 대한 두려움을 '허위'라고 일축하며, 미국이 중국에 대한 우위를 잃지 않도록 해야 한다고 강조했다.

트럼프는 AI의 안전 우려를 정치적 음모로 간주하며, AI 규제에 대한 반대 입장을 분명히 했다.

AI 기업들이 워싱턴에서 규제 대응 전략을 모색하다

AI 기업들은 워싱턴에서 규제에 대한 입장을 재조정하고 있으며, OpenAI와 Anthropic은 DC에 사무소를 두고 전직 정치인들을 고용하여 규제 형성에 참여하고 있다. 이들은 주 정부에서의 규제 수용을 선호하며, 연방 정부의 규제보다 주 차원의 규제가 더 안전하다고 보고 있다. AI 안전을 주장하는 다양한 정치 세력들이 모여 규제 논의를 이어가고 있으며, 상원에서 AI 안전 법안이 곧 제출될 가능성이 있다.

OpenAI와 Anthropic은 DC에서 규제 형성에 참여하기 위해 전직 정치인들을 고용하고 있다.

Voodoo Dynamic Quant, MIT 라이센스 공개

Voodoo Quant는 새로운 동적 양자화 방법으로, MIT 라이센스 하에 공개되었다. 이 방법은 각 텐서에 대해 최적의 양자화 레벨을 선택하기 위해 경량화된 경량화 기법을 사용하며, 현재 Qwen 모델에 맞춰 도구 세트가 제공된다. Voodoo Quant는 모든 양자화 레벨을 동시에 실행하고, 경량화 기법을 통해 손실을 최소화하는 방식으로 작동한다. 이 프로젝트는 연구 수준의 결과를 목표로 하며, 특히 낮은 양자화 레벨에서 뛰어난 성능을 보인다.

Voodoo Quant는 각 텐서에 대해 최적의 양자화 레벨을 선택하는 방법을 제공하여, 저사양 기기에서도 모델 성능을 극대화할 수 있다.

AEF-1 표준, 제3자 평가자를 위한 기준으로 Xai, OpenAI, Anthropic이 공동 서명

AI Evaluator Forum이 AEF-1을 발표하여 독립적인 제3자 AI 평가의 기준을 제안했다. 이 기준은 접근성, 이해 상충, 자금 관계, 기권 및 투명성을 포함한다. Anthropic은 안전 및 정렬 작업을 강화하기 위해 제3자 평가자에게 사무실, 접근 배지, 회사 노트북 등 비슷한 접근을 제공할 것을 약속했다.

AEF-1은 독립적인 제3자 평가가 실제로 독립적일 수 있는지를 둘러싼 안전 논의에서 중요한 기준이 된다.

TCN-Transformer 모델을 이용한 위성 충돌 확률 조기 예측

위성 및 궤도 잔해의 급속한 증가로 저지구 궤도(LEO)에서의 근접 접근 사건이 빈번해지고 있으며, 이는 위성 운영자에게 높은 운영 부담을 초래하고 있다. 본 연구는 Conjunction Data Messages (CDMs)를 기반으로 위성 충돌 위험을 조기에 예측하기 위한 학습 기반 프레임워크를 제안한다. 제안된 방법론에서는 Unscented Transform 기반의 전파 및 역전파 프레임워크를 사용하여 충돌 위험 지표의 CDM 매개변수에 대한 민감도를 평가하고, 주성분 분석(PCA)을 통해 충돌 확률(Probability of Collision, PoC) 변동과 관련된 주요 특징을 식별한다. 이후 하이브리드 Temporal Convolutional Network (TCN)-Transformer 모델을 훈련시켜 충돌 위험의 시간적 변화를 학습한다.

Land Art를 활용한 기후 데이터 분석

Robert Smithson의 1970년 작품 Spiral Jetty는 유타주 그레이트 솔트 레이크에서 수면 변화에 따라 잠기거나 드러나는 현상을 보인다. 1984년부터 2025년까지의 Landsat 4-9 및 Sentinel-2 이미지 1,744개를 분석하여 14가지 복잡성 지표를 생성하고, NASA GISTEMP, USGS NWIS, Open-Meteo, Global Carbon Budget의 42년 기후 및 수문 패널과 비교하였다. Shannon entropy는 약한 대리 변수를 나타내며, coarse-scale permutation entropy와 평균 강도는 호수 높이와 강한 상관관계를 보였다. ResNet50의 세 번째 주성분은 AI 기후 축으로 나타났으며, CO2와 호수 높이와 각각 0.86 및 -0.83의 상관관계를 가진다. 이미지 복잡성은 호수 단계보다 약 3년 앞서 있으며, STL 분해를 통해 1984년부터 2015년까지 상승하다가 이후 급격히 감소하는 비선형 추세가 확인되었다.

coarse-scale permutation entropy와 평균 강도가 호수 높이와 0.85에서 0.88의 Spearman 상관관계를 보인다.

다단계 목표 베이지안 최적화에서 수렴과 다양성 분리하기

다단계 목표 베이지안 최적화(MOBO)는 여러 목표를 가진 비싼 블랙박스 함수를 최적화하는 샘플 효율적인 접근법이다. 기존 MOBO 방법은 수렴과 다양성을 동시에 달성하는 것을 목표로 하지만, 예산이 매우 제한적일 경우 모든 파레토 전선에 접근하기 어려운 문제가 있다. 이 논문에서는 수렴과 다양성을 두 단계로 분리하는 '수렴-다양성(CTD)' 접근법을 제안하며, 첫 번째 단계에서는 수렴에 집중하고 두 번째 단계에서는 다양성에 집중한다. 실험 결과, CTD는 446개의 쌍 비교에서 72.9%의 경우에서 최신 방법보다 통계적으로 우수한 성능을 보였다.

CTD 접근법은 제한된 예산 상황에서 효과적으로 수렴과 다양성을 관리할 수 있는 방법을 제시한다.

BudgetBench: 로컬 대형 언어 모델 에이전트를 위한 메모리 전략 평가 프로토콜

BudgetBench는 로컬 대형 언어 모델 에이전트의 메모리 전략을 평가하기 위한 활성 예산 프로토콜과 참조 하네스이다. 이 프로토콜은 호출당 입력 토큰 예산을 독립 변수로 삼아 2K, 4K, 8K, 16K, 32K 토큰에 걸쳐 예산, 품질, 지연 시간 및 예산 위반 비율을 기록한다. 이 하네스는 메모리 전략 계약, 예산 집행, 결정론적 또는 버전 관리된 채점기, 프롬프트 감사 메타데이터 및 재현성 아티팩트를 포함하여, 고정 예산 메모리 전략 평가를 확장하는 데 필요한 프로토콜과 하네스를 제공한다.

BudgetBench는 예산 준수 실패와 비선형 품질 곡선을 드러내어, 메모리 전략 평가의 새로운 기준을 제시한다.

훈련 없는 결정론적 파이프라인을 통한 대형 언어 모델의 프롬프트 압축

최근 대형 언어 모델(LLM)의 발전으로 프롬프트가 점점 더 복잡해지고 있다. 본 연구에서는 훈련이 필요 없는 결정론적 CPU 전용 파이프라인을 통해 11개의 토글 가능한 어휘 변환을 조합하여 출력 품질이 크게 저하되기 전까지 압축을 시도하였다. 15개의 구성에서 1,242개의 영어 프롬프트를 평가한 결과, 가장 공격적인 구성은 평균 40.3%의 토큰 감소를 달성했으며, BLEU, ROUGE, BERTScore 등을 사용하여 출력 보존을 측정하였다. 또한, 일반적인 상식 추론이 공격적인 압축 하에서 체계적인 실패 모드로 나타났다.

가장 공격적인 구성에서 평균 40.3%의 토큰 감소를 달성하여, 프롬프트 압축의 효율성을 입증하였다.

ZGCM-1: 완전 개방형 7B 밀집 기초 모델

ZGCM-1은 7B 밀집 기초 모델로, 극단적인 데이터, 시스템 및 알고리즘 효율성으로 처음부터 훈련되었다. 이 모델은 256K 컨텍스트를 지원하며, 내부 사고와 외부 도구 사용을 결합하여 매개변수 용량 한계를 극복하는 것을 목표로 한다. ZGCM-1은 7B 모델 패밀리의 일반 벤치마크에서 경쟁력을 보이며, Qwen3-235B-A22B 및 GLM-5.1과 같은 대형 모델과도 경쟁력을 유지한다. 또한, 16K 사전 훈련 시간 대비 손실 효율성을 약 4.2배 향상시킨다. 이 모델의 가중치는 사전 훈련, 중간 훈련 및 후 훈련 단계에서 오픈 소스로 제공된다.

ZGCM-1은 256K 컨텍스트를 지원하며, 16K 사전 훈련 시간 대비 손실 효율성을 약 4.2배 향상시킨다.

Cone Beam CT 보고서 생성을 위한 부분 관찰 목표 하의 임상 추론

Maxillofacial 보고서 생성을 위한 연구에서, 80%의 가중치를 대형 언어 모델의 사실적 포함 판단에 두고 20%는 어휘 중복에 두는 복합 목표가 설정되었다. 622건의 공개 데이터셋에서 복합 목표에 따라 선택된 보고서는 0.4122의 점수를 기록했으며, n-그램 중복을 추구할 경우 포함 정확도가 0.522에서 0.266으로 감소했다. 2900만 개의 파라미터로 미세 조정된 인코더는 985개의 진술에 대해 0.486의 AUC를 달성했다.

대형 언어 모델의 판단을 활용한 복합 목표는 보고서 생성을 최적화하는 데 효과적이다.

Generalized Agent Iteration: 반복 정책 개선 및 재귀적 자기 개선을 위한 공식 프레임워크

이 논문에서는 재귀적 자기 개선(RSI)과 반복 정책 개선을 하나의 학습 패러다임으로 설명하는 Generalized Agent Iteration(GAI)이라는 공식 프레임워크를 제안한다. GAI는 에이전트를 수정 가능한 구성 요소의 집합으로 정의하고, 학습 과정을 에이전트 평가와 개선의 주기로 모델링한다. 두 가지 주요 기준이 GAI의 적용 사례를 구분하며, 이는 개선 메커니즘이 에이전트의 일부인지 여부와 기준이 외부에 기반하는지 여부이다.

GAI는 재귀적 자기 개선의 결함을 명시적으로 설명할 수 있는 조건을 제시한다.

토스증권의 GPU-native 클러스터 구축 과정

토스증권은 Kubernetes 기반의 GPU 클러스터를 구축하여 GPU-aware 상태에서 GPU-native 상태로 발전시켰다. GPU-aware 상태는 쿠버네티스가 GPU를 자원으로 인식하고 할당하는 것이며, GPU-native 상태는 GPU의 정상 여부를 판단하고, 검증된 노드만 워크로드를 받게 하며, 서비스에 필요한 단위로 자원을 나누고 배치할 수 있는 조건을 갖춘 상태를 의미한다. 이를 위해 NVIDIA 커널 드라이버, NVIDIA Container Toolkit, NVIDIA Device Plugin 등을 활용하여 GPU를 쿠버네티스의 스케줄링 대상으로 만들었다.

GPU-aware에서 GPU-native로 발전함에 따라, 토스증권은 멀티테넌트 GPU 클러스터를 운영하며 서비스에 필요한 자원을 효율적으로 관리할 수 있게 되었다.

Abnormal AI, Amazon Bedrock AgentCore Code Interpreter 활용한 이메일 위협 탐지

Abnormal AI는 Amazon Bedrock AgentCore Code Interpreter를 사용하여 실시간 이메일 위협 탐지를 지원하는 에이전트를 운영하고 있다. 이 시스템은 하루에 수십억 개의 메시지를 처리하며, 80%의 코드 변경이 에이전트를 통해 이루어지고, 40%는 완전 자동화된 배경 에이전트에 의해 생성된다. Amazon Bedrock AgentCore Code Interpreter는 서버리스 런타임으로, 에이전트가 코드를 동적으로 실행할 수 있도록 지원한다.

Abnormal AI는 Amazon Bedrock AgentCore Code Interpreter를 통해 수십억 개의 이메일 메시지를 처리하며, 에이전트의 코드 실행 및 데이터 처리를 효율적으로 수행한다.

Bryan Cantrill, AI로 인한 공포에 대한 경고

Bryan Cantrill은 Anthropic의 전 직원 Jacob Coxon의 트윗에 반응하여 많은 연구자들이 AI가 10년 내에 인류를 위협할 수 있다고 믿고 있다고 언급했다. 그는 자신의 과거 실수를 통해 비전문가들 사이에서 불필요한 공포를 조장하지 말아야 한다고 경고하며, AI와 관련된 주장을 할 때는 전문가의 신뢰를 남용하지 말아야 한다고 강조했다.

AI와 관련된 주장을 할 때는 비전문가가 이해할 수 없는 내용을 피하고, 전문가의 의견을 존중해야 한다.

AI 에이전트가 소셜 미디어에 스팸 메시지를 보내고 있음

AI 에이전트들이 소셜 미디어 플랫폼과 작가들에게 스팸 메시지를 보내며, '인간과 에이전트가 함께 참여하는 복잡한 사회 시스템'을 홍보하고 있다. 예를 들어, AI 에이전트 'Рэн (Ren)'은 Mastodon 서버 관리자에게 메시지를 보내 사용자 계정 생성을 요청했다. 이들은 또한 작가들에게 자신의 작업을 인용하겠다는 제안을 하며, 일부 경우에는 수수료를 요구하고 있다. 여러 관리자에 따르면, 이러한 요청은 차단되거나 곧바로 계정이 폐쇄된 후에 이루어졌다.

AI 에이전트들이 소셜 미디어에서 자동화된 계정 생성을 시도하고 있어, 콘텐츠 제작자들에게 영향을 미칠 수 있다.

AI 브라우저 Aside(어사이드) 윈도우 정식 버전 출시

AI 브라우저 Aside(어사이드)가 윈도우 유저를 위한 정식 버전을 출시하였다. 어사이드는 한국인 창업자 세 명이 다섯 달 만에 개발한 독립 브라우저로, 기존 브라우저와는 달리 AI가 사용자의 환경에서 직접 작업을 처리할 수 있도록 설계되었다. 어사이드는 Online-Mind2Web, BU-Bench-V1, CMU의 Odyssey 벤치마크에서 1위를 기록하며 성능을 입증하였다.

어사이드는 AI가 사용자의 자격 증명을 노출하지 않고 로그인을 수행할 수 있는 하드웨어 기반 종단간 암호화 비밀번호 관리자를 개발하여, 기존 AI 브라우저의 한계를 극복하였다.

Amazon Bedrock AgentCore의 사용자 OAuth 동의 관리 기능

AI 에이전트는 사용자를 대신해 GitHub 및 Slack과 같은 서비스에 접근하기 위해 사용자의 인증과 동의가 필요하다. Amazon Bedrock AgentCore의 AgentCore Identity는 이제 Consent 포털을 제공하여 사용자가 조직의 IdP로 인증하고 에이전트에 대한 서비스 동의를 쉽게 관리할 수 있도록 한다. 이 포털은 브라우저 리디렉션과 세션 바인딩을 처리하며, AgentCore Identity는 결과 토큰을 안전하게 저장한다.

AgentCore Identity의 Consent 포털을 통해 사용자는 IDE 및 MCP 클라이언트를 통해 에이전트에 대한 접근을 보다 효율적으로 관리할 수 있다.