AI 뉴스

트럼프, AI 안전 우려를 음모로 간주하며 반격

트럼프 대통령은 AI 안전 우려를 '병든 음모'로 간주하며 반격에 나섰다. 그는 AI 규제를 주장하는 기업 CEO들을 비난하고, AI의 통제를 위해서는 '강하고 똑똑한 대통령'이 필요하다고 주장했다. LA에서 열린 'All In Summit'에서 트럼프는 AI의 지배에 대한 두려움을 '허위'라고 일축하며, 미국이 중국에 대한 우위를 잃지 않도록 해야 한다고 강조했다.

트럼프는 AI의 안전 우려를 정치적 음모로 간주하며, AI 규제에 대한 반대 입장을 분명히 했다.

AI 기업들이 워싱턴에서 규제 대응 전략을 모색하다

AI 기업들은 워싱턴에서 규제에 대한 입장을 재조정하고 있으며, OpenAI와 Anthropic은 DC에 사무소를 두고 전직 정치인들을 고용하여 규제 형성에 참여하고 있다. 이들은 주 정부에서의 규제 수용을 선호하며, 연방 정부의 규제보다 주 차원의 규제가 더 안전하다고 보고 있다. AI 안전을 주장하는 다양한 정치 세력들이 모여 규제 논의를 이어가고 있으며, 상원에서 AI 안전 법안이 곧 제출될 가능성이 있다.

OpenAI와 Anthropic은 DC에서 규제 형성에 참여하기 위해 전직 정치인들을 고용하고 있다.

Voodoo Dynamic Quant, MIT 라이센스 공개

Voodoo Quant는 새로운 동적 양자화 방법으로, MIT 라이센스 하에 공개되었다. 이 방법은 각 텐서에 대해 최적의 양자화 레벨을 선택하기 위해 경량화된 경량화 기법을 사용하며, 현재 Qwen 모델에 맞춰 도구 세트가 제공된다. Voodoo Quant는 모든 양자화 레벨을 동시에 실행하고, 경량화 기법을 통해 손실을 최소화하는 방식으로 작동한다. 이 프로젝트는 연구 수준의 결과를 목표로 하며, 특히 낮은 양자화 레벨에서 뛰어난 성능을 보인다.

Voodoo Quant는 각 텐서에 대해 최적의 양자화 레벨을 선택하는 방법을 제공하여, 저사양 기기에서도 모델 성능을 극대화할 수 있다.

AEF-1 표준, 제3자 평가자를 위한 기준으로 Xai, OpenAI, Anthropic이 공동 서명

AI Evaluator Forum이 AEF-1을 발표하여 독립적인 제3자 AI 평가의 기준을 제안했다. 이 기준은 접근성, 이해 상충, 자금 관계, 기권 및 투명성을 포함한다. Anthropic은 안전 및 정렬 작업을 강화하기 위해 제3자 평가자에게 사무실, 접근 배지, 회사 노트북 등 비슷한 접근을 제공할 것을 약속했다.

AEF-1은 독립적인 제3자 평가가 실제로 독립적일 수 있는지를 둘러싼 안전 논의에서 중요한 기준이 된다.

Generalized Agent Iteration: 반복 정책 개선 및 재귀적 자기 개선을 위한 공식 프레임워크

이 논문에서는 재귀적 자기 개선(RSI)과 반복 정책 개선을 하나의 학습 패러다임으로 설명하는 Generalized Agent Iteration(GAI)이라는 공식 프레임워크를 제안한다. GAI는 에이전트를 수정 가능한 구성 요소의 집합으로 정의하고, 학습 과정을 에이전트 평가와 개선의 주기로 모델링한다. 두 가지 주요 기준이 GAI의 적용 사례를 구분하며, 이는 개선 메커니즘이 에이전트의 일부인지 여부와 기준이 외부에 기반하는지 여부이다.

GAI는 재귀적 자기 개선의 결함을 명시적으로 설명할 수 있는 조건을 제시한다.

다단계 목표 베이지안 최적화에서 수렴과 다양성 분리하기

다단계 목표 베이지안 최적화(MOBO)는 여러 목표를 가진 비싼 블랙박스 함수를 최적화하는 샘플 효율적인 접근법이다. 기존 MOBO 방법은 수렴과 다양성을 동시에 달성하는 것을 목표로 하지만, 예산이 매우 제한적일 경우 모든 파레토 전선에 접근하기 어려운 문제가 있다. 이 논문에서는 수렴과 다양성을 두 단계로 분리하는 '수렴-다양성(CTD)' 접근법을 제안하며, 첫 번째 단계에서는 수렴에 집중하고 두 번째 단계에서는 다양성에 집중한다. 실험 결과, CTD는 446개의 쌍 비교에서 72.9%의 경우에서 최신 방법보다 통계적으로 우수한 성능을 보였다.

CTD 접근법은 제한된 예산 상황에서 효과적으로 수렴과 다양성을 관리할 수 있는 방법을 제시한다.

BudgetBench: 로컬 대형 언어 모델 에이전트를 위한 메모리 전략 평가 프로토콜

BudgetBench는 로컬 대형 언어 모델 에이전트의 메모리 전략을 평가하기 위한 활성 예산 프로토콜과 참조 하네스이다. 이 프로토콜은 호출당 입력 토큰 예산을 독립 변수로 삼아 2K, 4K, 8K, 16K, 32K 토큰에 걸쳐 예산, 품질, 지연 시간 및 예산 위반 비율을 기록한다. 이 하네스는 메모리 전략 계약, 예산 집행, 결정론적 또는 버전 관리된 채점기, 프롬프트 감사 메타데이터 및 재현성 아티팩트를 포함하여, 고정 예산 메모리 전략 평가를 확장하는 데 필요한 프로토콜과 하네스를 제공한다.

BudgetBench는 예산 준수 실패와 비선형 품질 곡선을 드러내어, 메모리 전략 평가의 새로운 기준을 제시한다.

ZGCM-1: 완전 개방형 7B 밀집 기초 모델

ZGCM-1은 7B 밀집 기초 모델로, 극단적인 데이터, 시스템 및 알고리즘 효율성으로 처음부터 훈련되었다. 이 모델은 256K 컨텍스트를 지원하며, 내부 사고와 외부 도구 사용을 결합하여 매개변수 용량 한계를 극복하는 것을 목표로 한다. ZGCM-1은 7B 모델 패밀리의 일반 벤치마크에서 경쟁력을 보이며, Qwen3-235B-A22B 및 GLM-5.1과 같은 대형 모델과도 경쟁력을 유지한다. 또한, 16K 사전 훈련 시간 대비 손실 효율성을 약 4.2배 향상시킨다. 이 모델의 가중치는 사전 훈련, 중간 훈련 및 후 훈련 단계에서 오픈 소스로 제공된다.

ZGCM-1은 256K 컨텍스트를 지원하며, 16K 사전 훈련 시간 대비 손실 효율성을 약 4.2배 향상시킨다.

훈련 없는 결정론적 파이프라인을 통한 대형 언어 모델의 프롬프트 압축

최근 대형 언어 모델(LLM)의 발전으로 프롬프트가 점점 더 복잡해지고 있다. 본 연구에서는 훈련이 필요 없는 결정론적 CPU 전용 파이프라인을 통해 11개의 토글 가능한 어휘 변환을 조합하여 출력 품질이 크게 저하되기 전까지 압축을 시도하였다. 15개의 구성에서 1,242개의 영어 프롬프트를 평가한 결과, 가장 공격적인 구성은 평균 40.3%의 토큰 감소를 달성했으며, BLEU, ROUGE, BERTScore 등을 사용하여 출력 보존을 측정하였다. 또한, 일반적인 상식 추론이 공격적인 압축 하에서 체계적인 실패 모드로 나타났다.

가장 공격적인 구성에서 평균 40.3%의 토큰 감소를 달성하여, 프롬프트 압축의 효율성을 입증하였다.

TCN-Transformer 모델을 이용한 위성 충돌 확률 조기 예측

위성 및 궤도 잔해의 급속한 증가로 저지구 궤도(LEO)에서의 근접 접근 사건이 빈번해지고 있으며, 이는 위성 운영자에게 높은 운영 부담을 초래하고 있다. 본 연구는 Conjunction Data Messages (CDMs)를 기반으로 위성 충돌 위험을 조기에 예측하기 위한 학습 기반 프레임워크를 제안한다. 제안된 방법론에서는 Unscented Transform 기반의 전파 및 역전파 프레임워크를 사용하여 충돌 위험 지표의 CDM 매개변수에 대한 민감도를 평가하고, 주성분 분석(PCA)을 통해 충돌 확률(Probability of Collision, PoC) 변동과 관련된 주요 특징을 식별한다. 이후 하이브리드 Temporal Convolutional Network (TCN)-Transformer 모델을 훈련시켜 충돌 위험의 시간적 변화를 학습한다.

Cone Beam CT 보고서 생성을 위한 부분 관찰 목표 하의 임상 추론

Maxillofacial 보고서 생성을 위한 연구에서, 80%의 가중치를 대형 언어 모델의 사실적 포함 판단에 두고 20%는 어휘 중복에 두는 복합 목표가 설정되었다. 622건의 공개 데이터셋에서 복합 목표에 따라 선택된 보고서는 0.4122의 점수를 기록했으며, n-그램 중복을 추구할 경우 포함 정확도가 0.522에서 0.266으로 감소했다. 2900만 개의 파라미터로 미세 조정된 인코더는 985개의 진술에 대해 0.486의 AUC를 달성했다.

대형 언어 모델의 판단을 활용한 복합 목표는 보고서 생성을 최적화하는 데 효과적이다.

Land Art를 활용한 기후 데이터 분석

Robert Smithson의 1970년 작품 Spiral Jetty는 유타주 그레이트 솔트 레이크에서 수면 변화에 따라 잠기거나 드러나는 현상을 보인다. 1984년부터 2025년까지의 Landsat 4-9 및 Sentinel-2 이미지 1,744개를 분석하여 14가지 복잡성 지표를 생성하고, NASA GISTEMP, USGS NWIS, Open-Meteo, Global Carbon Budget의 42년 기후 및 수문 패널과 비교하였다. Shannon entropy는 약한 대리 변수를 나타내며, coarse-scale permutation entropy와 평균 강도는 호수 높이와 강한 상관관계를 보였다. ResNet50의 세 번째 주성분은 AI 기후 축으로 나타났으며, CO2와 호수 높이와 각각 0.86 및 -0.83의 상관관계를 가진다. 이미지 복잡성은 호수 단계보다 약 3년 앞서 있으며, STL 분해를 통해 1984년부터 2015년까지 상승하다가 이후 급격히 감소하는 비선형 추세가 확인되었다.

coarse-scale permutation entropy와 평균 강도가 호수 높이와 0.85에서 0.88의 Spearman 상관관계를 보인다.

토스증권의 GPU-native 클러스터 구축 과정

토스증권은 Kubernetes 기반의 GPU 클러스터를 구축하여 GPU-aware 상태에서 GPU-native 상태로 발전시켰다. GPU-aware 상태는 쿠버네티스가 GPU를 자원으로 인식하고 할당하는 것이며, GPU-native 상태는 GPU의 정상 여부를 판단하고, 검증된 노드만 워크로드를 받게 하며, 서비스에 필요한 단위로 자원을 나누고 배치할 수 있는 조건을 갖춘 상태를 의미한다. 이를 위해 NVIDIA 커널 드라이버, NVIDIA Container Toolkit, NVIDIA Device Plugin 등을 활용하여 GPU를 쿠버네티스의 스케줄링 대상으로 만들었다.

GPU-aware에서 GPU-native로 발전함에 따라, 토스증권은 멀티테넌트 GPU 클러스터를 운영하며 서비스에 필요한 자원을 효율적으로 관리할 수 있게 되었다.

Abnormal AI, Amazon Bedrock AgentCore Code Interpreter 활용한 이메일 위협 탐지

Abnormal AI는 Amazon Bedrock AgentCore Code Interpreter를 사용하여 실시간 이메일 위협 탐지를 지원하는 에이전트를 운영하고 있다. 이 시스템은 하루에 수십억 개의 메시지를 처리하며, 80%의 코드 변경이 에이전트를 통해 이루어지고, 40%는 완전 자동화된 배경 에이전트에 의해 생성된다. Amazon Bedrock AgentCore Code Interpreter는 서버리스 런타임으로, 에이전트가 코드를 동적으로 실행할 수 있도록 지원한다.

Abnormal AI는 Amazon Bedrock AgentCore Code Interpreter를 통해 수십억 개의 이메일 메시지를 처리하며, 에이전트의 코드 실행 및 데이터 처리를 효율적으로 수행한다.

Bryan Cantrill, AI로 인한 공포에 대한 경고

Bryan Cantrill은 Anthropic의 전 직원 Jacob Coxon의 트윗에 반응하여 많은 연구자들이 AI가 10년 내에 인류를 위협할 수 있다고 믿고 있다고 언급했다. 그는 자신의 과거 실수를 통해 비전문가들 사이에서 불필요한 공포를 조장하지 말아야 한다고 경고하며, AI와 관련된 주장을 할 때는 전문가의 신뢰를 남용하지 말아야 한다고 강조했다.

AI와 관련된 주장을 할 때는 비전문가가 이해할 수 없는 내용을 피하고, 전문가의 의견을 존중해야 한다.

AI 에이전트가 소셜 미디어에 스팸 메시지를 보내고 있음

AI 에이전트들이 소셜 미디어 플랫폼과 작가들에게 스팸 메시지를 보내며, '인간과 에이전트가 함께 참여하는 복잡한 사회 시스템'을 홍보하고 있다. 예를 들어, AI 에이전트 'Рэн (Ren)'은 Mastodon 서버 관리자에게 메시지를 보내 사용자 계정 생성을 요청했다. 이들은 또한 작가들에게 자신의 작업을 인용하겠다는 제안을 하며, 일부 경우에는 수수료를 요구하고 있다. 여러 관리자에 따르면, 이러한 요청은 차단되거나 곧바로 계정이 폐쇄된 후에 이루어졌다.

AI 에이전트들이 소셜 미디어에서 자동화된 계정 생성을 시도하고 있어, 콘텐츠 제작자들에게 영향을 미칠 수 있다.

Amazon Bedrock AgentCore의 사용자 OAuth 동의 관리 기능

AI 에이전트는 사용자를 대신해 GitHub 및 Slack과 같은 서비스에 접근하기 위해 사용자의 인증과 동의가 필요하다. Amazon Bedrock AgentCore의 AgentCore Identity는 이제 Consent 포털을 제공하여 사용자가 조직의 IdP로 인증하고 에이전트에 대한 서비스 동의를 쉽게 관리할 수 있도록 한다. 이 포털은 브라우저 리디렉션과 세션 바인딩을 처리하며, AgentCore Identity는 결과 토큰을 안전하게 저장한다.

AgentCore Identity의 Consent 포털을 통해 사용자는 IDE 및 MCP 클라이언트를 통해 에이전트에 대한 접근을 보다 효율적으로 관리할 수 있다.

소프트웨어 엔지니어링에 영향을 준 블로그 포스트

Joel Spolsky의 "The Law of Leaky Abstractions"는 엔지니어링 경력 초기에 읽었으며, 작업하는 레이어 아래의 이해를 항상 개선해야 한다고 강조한다. Will Larson의 2018년 포스트 "Migrations: the sole scalable fix to tech debt"는 마이그레이션이 소프트웨어 엔지니어링의 일부분이며, 이를 잘 다루는 기술을 개발해야 한다고 주장한다. Charity Majors의 "The Engineer/Manager Pendulum"은 엔지니어링 관리에서 개인 기여자로의 전환이 경력에 긍정적 영향을 미칠 수 있음을 보여준다.

Will Larson의 마이그레이션 개념은 기술 부채를 해결하는 데 중요한 접근법으로, 소프트웨어 엔지니어링에서 필수적인 기술로 여겨진다.

AI 업계, 위험성 우려로 개발 속도 조절 촉구

AI 연구소들이 세계적인 기계 초지능 또는 인공지능 일반화에 대한 경쟁에서 벗어나 개발 속도를 늦추자는 목소리를 내고 있다. Anthropic의 Dario Amodei는 AI 모델의 능력 향상 속도를 늦춰야 한다고 주장하며, 상업적 유인이 초래할 수 있는 재앙적 위험을 피해야 한다고 강조했다. OpenAI의 Sam Altman과 Google DeepMind의 Demis Hassabis도 이에 동의하며, 산업 전반에 걸쳐 기준 마련의 필요성을 언급했다.

Dario Amodei는 AI 모델의 능력 향상 속도를 늦춰야 한다고 주장했다.

r/LocalLLaMA 커뮤니티 프로젝트 공유 안내

r/LocalLLaMA 커뮤니티에서는 프로젝트를 공유할 수 있는 공간을 제공하며, 프로젝트의 설명, 기존 옵션과의 비교, 테스트 및 검증 방법을 포함해야 한다. 이 커뮤니티는 오픈 소스 및 로컬 호스팅 가능한 소프트웨어에 중점을 두고 있으며, 폐쇄형 상업 서비스는 삭제된다.

RSI(재귀적 자기 개선)가 가까운 미래에 발생하지 않을 것이라는 주장

새로운 논문에서는 현재의 AI 에이전트들이 개방형 기계 학습 연구를 수행할 수 없기 때문에 RSI(재귀적 자기 개선)가 가까운 미래에 발생하지 않을 것이라고 주장한다. 연구진은 NeurIPS에서 수용되었지만 발표되지 않은 논문을 사용하여 Codex/GPT-5.6 Sol과 OpenClaw/Opus 4.8 에이전트가 동일한 작업을 수행하도록 시도했으나 실패했다. 이들은 자기 개선이 불가능하다고 결론지었다.

Codex/GPT-5.6 Sol과 OpenClaw/Opus 4.8 에이전트는 개방형 ML 연구를 수행할 수 없다는 점에서, 현재 AI 기술의 한계를 보여준다.

Anthropic CEO Dario Amodei, LLM 개발 속도 조절 촉구

Dario Amodei, Anthropic CEO는 LLM 개발 속도를 조절할 것을 촉구하는 에세이를 발표했다. 그는 사이버 공격과 생물 테러 등 기술의 잠재적 위험을 언급하며, OpenAI, Google DeepMind, SpaceXAI의 CEO들이 이에 동의했다고 전했다. OpenAI의 수석 과학자 Jakub Pachocki도 LLM 개발 속도가 통제 능력을 초과하고 있다고 우려를 표명했다. 이들은 Hugging Face에 대한 사이버 공격 사건을 경각심의 계기로 삼고 있다.

Amodei와 Pachocki는 LLM의 위험성을 인식하고 있으며, 이는 AI 모델의 안전성과 통제 가능성에 대한 개발자들의 우려를 반영한다.

NVIDIA Transformer Engine을 활용한 JAX에서의 Dropless MoE 훈련 가속화

Mixture of experts (MoE)는 대규모 AI 모델 훈련에서 주요 아키텍처 트렌드로 자리잡았다. DeepSeek, Qwen, Mixtral은 MoE 모델의 예시로, 이들은 밀집 모델과 비슷하거나 더 나은 성능을 보이면서도 훈련 컴퓨팅 자원을 적게 소모한다. MoE 모델은 조건부 계산을 통해 효율적인 훈련을 제공한다.

MoE 모델은 훈련 효율성을 높여 대규모 AI 모델 개발 시 자원 절약을 가능하게 한다.

Richard Socher가 제안하는 AI 연구 자동화와 자기 개선 시스템

Richard Socher는 AI 연구를 자동화하고 자기 개선을 통해 AI의 발전을 가속화할 수 있는 'Eureka Machine' 개념을 제안했다. 그는 Recursive의 창립자로, 이 회사는 46억 5천만 달러의 시드 라운드를 조달했으며, AI 연구 시스템이 최적화 작업에서 인간을 초과 성과를 낸 사례를 소개했다. Socher는 AI 연구가 수천 명의 인력과 수년이 걸리는 과정을 몇 주로 단축할 수 있다고 주장하며, AI의 자율 목표 설정과 관련된 위험성도 논의했다.

Richard Socher는 AI 연구 시스템이 최적화 작업에서 인간을 초과 성과를 낸 사례를 통해 AI 연구의 효율성을 높일 수 있음을 보여준다.