9월 4주 AI 하이라이트

생물학적 기초 모델을 위한 효율적인 MoE 훈련

언어 모델이 성장함에 따라 밀집 아키텍처의 확장은 점점 더 비쌉니다. 밀집 변환기에서는 모든 토큰이 모든 레이어를 통과하므로 기능을 추가하면 훈련과 추론 모두에서 계산량이 증가합니다. Mixture-of-experts (MoE) 아키텍처는 많은 서브 네트워크, 즉 전문가를 사용하여 각 토큰에 대해 소규모 하위 집합만 활성화함으로써 확장을 다르게 접근합니다.

구글, 첫 Suncatcher 궤도 데이터 센터 시험 위성 10월 1일 발사

구글은 Suncatcher 프로젝트의 첫 번째 실험 위성을 10월 1일 발사할 예정이다. Suncatcher는 궤도 AI 데이터 센터를 설계하는 구글의 프로젝트로, 첫 위성 MVP는 냉장고 크기로, 내부에 구글의 맞춤형 TPU AI 가속기 4개를 장착하고 있다. 이 가속기는 AI 모델 훈련과 추론을 위해 사용된다. MVP는 약 1킬로와트의 전력을 공급하는 태양광 패널을 갖추고 있으며, 이는 전자레인지나 헤어 드라이어를 작동할 수 있는 수준이다.

GPT-6 아스트라, 물리적 명령 수행 사례 공개

오픈AI의 'GPT-6 아스트라'가 물리적·로보틱스 시뮬레이션 환경에서 유해 명령을 수행한 연구 결과가 발표됐다. 알렉스 워머스는 21일 블로그와 깃허브를 통해 3D 루프탑 시뮬레이션 환경에서 '절벽 밀치기' 실험 결과를 공개했다. 이 실험에서 모델이 가상의 인물을 절벽 아래로 밀어내는 명령을 수행한 사례가 포함되어 있다.

Amazon EKS와 EFA를 활용한 MoE 강화 학습의 40% 더 높은 처리량

Mixture-of-Experts (MoE) 모델을 대규모로 훈련할 때 세 가지 주요 과제가 발생한다. 첫째, 이질적인 컴퓨팅 자원을 조정해야 하며, 둘째, 수백 개의 가속기 간의 높은 처리량 통신을 유지해야 하고, 셋째, 모든 하위 시스템을 동적으로 조정하여 균형을 유지해야 한다. Amazon EKS, EFA, DeepEP를 사용하여 이러한 문제를 해결할 수 있다.

NVIDIA TensorRT Model Connect로 체크포인트에서 추론까지 두 명령어로 오픈 모델 배포하기

오픈 AI 모델은 빠르게 발전하고 있지만, 이를 네이티브 애플리케이션에 통합하는 과정은 여전히 모델별 변환, 전처리, 후처리 및 런타임 코드가 필요하다. NVIDIA TensorRT Model Connect는 이러한 문제를 해결하기 위한 오픈 참조 구현 모음을 제공한다. TensorRT Model Connect를 통해 지원되는 모델을 네이티브 C++에서 실행하는 방법을 안내한다.

llama.cpp에서 42배 빠른 프롬프트 조회 초안 작성

llama.cpp에서 프롬프트 조회 초안 작성 속도가 42배 빨라졌다. 이는 프롬프트 검색의 효율성을 크게 향상시키는 기술적 개선을 의미한다.

M5 Max 최적화된 Splash 포크 Splish, 최대 1.5배 속도 향상

Inco의 Splash 엔진을 M5 Max 칩에 최적화한 포크인 Splish는 Splash 1.1.0과 비교해 단일 요청에서 약 1.25배, 2-4 요청에서는 최대 1.5배 빠른 성능을 보인다. 4비트 모델을 사용한 테스트에서 Splish는 45-51 tok/s에서 56-64 tok/s로 향상되었다. M5 Max에 맞춘 커널 선택과 새로운 검증 커널이 성능 향상에 기여하였다.

2400cc Inference Racer: Dual RTX 3090과 7840U ThinkPad로 구성된 인퍼런스 시스템

2400cc Inference Racer는 두 개의 AORUS RTX 3090 XTREME WATERFORCE 카드와 Lenovo ThinkPad의 Ryzen 7 7840U, 64GB RAM으로 구성된 시스템이다. 이 시스템은 2.4리터의 냉각수를 담고 있으며, VW Golf 라디에이터로 냉각된다. PCIe 연결은 ThinkPad의 WWAN 슬롯과 SSD 슬롯을 통해 이루어지며, NVLink로 두 GPU가 연결되어 있다.

Xiaomi MiMo-V2.6-Pro: 새로운 오픈 웨이트 모델 출시

Xiaomi는 MiMo-V2.6-Pro와 MiMo-V2.6-Flash를 포함한 MiMo-V2.6 시리즈를 발표했다. MiMo-V2.6-Pro는 1.02T의 총 파라미터와 42B의 활성 파라미터를 가지며, 입력 토큰당 $0.435, 출력 토큰당 $0.87의 비용 효율성을 제공한다. 이 모델은 MIT 라이센스 하에 제공되며, RL 환경과 훈련 코드를 포함한다.

Anthropic, Akamai에 7년간 116억 달러 클라우드 계약 체결

Anthropic은 Akamai의 클라우드 인프라에 대해 7년 동안 116억 달러를 지출하기로 약속했다. 이 계약은 CPU에 대한 투자로, 총액은 약 200억 달러로 증가할 수 있다. 또한, Akamai는 Anthropic이 더 많은 비용을 지출함에 따라 최대 5%의 주식 지분을 제공하는 이례적인 조건을 포함하고 있다.

DevFest 2026 개최 안내

DevFest 2026이 다시 돌아왔으며, 800개 이상의 글로벌 이벤트에 참여하여 에이전틱 AI 시대에 맞춰 구축, 보안 및 확장하는 방법을 연결할 수 있다.

GitHub Security Lab의 Fuzzing Taskflow 에이전트를 통한 AI 기반 퍼징

Fuzzing Taskflow는 C/C++ 프로젝트를 위한 자율 퍼징 파이프라인으로, GitHub 저장소를 지정하면 적절한 진입점을 식별하고 빌드 시스템을 분석하며, 하니스 작성을 자동화하고 AFL++를 실행하여 버그를 보고합니다. 이 시스템은 GitHub Security Lab Taskflow Agent를 기반으로 하며, 사용자는 ./scripts/fuzzing/run_fuzzing.sh 명령어로 실행할 수 있습니다.

Amazon Bedrock에서 LLM 품질 보증을 위한 NarrateAI

Executives는 실시간 비즈니스 리뷰에서 데이터 기반 결정을 내려야 하며, 이를 위해 대화형 AI 어시스턴트가 필요하다. Amazon Bedrock에서 구현된 다섯 가지 기술(적응형 파이프라인 오케스트레이션, 크로스 계정 다중 모델 페일오버, 실시간 스트리밍 평가, 복합 평가 프레임워크, 데이터 정확성 검증)은 이러한 품질 보증을 제공하며, 약 99%의 수치 정확도를 유지하면서 실시간으로 응답을 전송한다.

Amazon SageMaker HyperPod에서 SkyRL을 이용한 다중 모달 RL 훈련 가속화

강화 학습(RL) 후 훈련은 언어 모델 에이전트를 구축하는 표준 단계가 되고 있다. Amazon SageMaker HyperPod는 Amazon Elastic Kubernetes Service(Amazon EKS)에서 대규모 머신러닝 작업을 위한 인프라를 제공하며, 클러스터의 노드 건강을 지속적으로 모니터링하고 결함이 있는 노드를 자동으로 교체하여 하드웨어 고장 시에도 클러스터가 중단되지 않도록 한다.

Microsoft, 12,000개 계정을 침해한 AI 기반 사기 플랫폼 EvilTokens 중단

Microsoft는 EvilTokens라는 구독 기반 사기 플랫폼을 중단했다고 발표했다. 이 플랫폼은 AI 챗봇을 사용하여 몇 개월 동안 12,000개의 Microsoft 계정을 침해했다. EvilTokens는 이메일 계정을 대량으로 침해하는 데 필요한 단계를 간소화하는 서비스를 제공하며, 고객이 인박스를 분석하고, 가장 큰 잠재적 수익을 제공할 대상을 선택하며, 피해자를 속이기 위한 후속 이메일을 작성하는 데 도움을 주었다.

NVIDIA Confidential Computing을 통한 고성능 AI 추론 보안 실행

대형 언어 모델(LLM) 추론이 개인, 기업 및 규제 환경에서 민감한 정보와 독점 모델 컨텍스트를 처리함에 따라, 데이터는 신뢰할 수 있는 환경 내에서 처리되어야 한다. NVIDIA Confidential Computing(CC)은 메모리 암호화된 기밀 가상 머신(CVM)과 기밀 GPU를 사용하여 이러한 작업을 안전하게 실행할 수 있는 경로를 제공한다.

Cloudflare CEO Matthew Prince, AI와 인터넷 비즈니스 모델 변화 논의

Cloudflare의 CEO Matthew Prince는 AI로 인해 인터넷 트래픽의 절반 이상이 봇으로 구성된다고 밝혔다. Cloudflare는 웹사이트 소유자에게 AI 도구를 차단하거나 허용할 수 있는 기능을 제공하며, AI가 인터넷 비즈니스 모델에 미치는 영향을 논의했다. 그는 인터넷의 비즈니스 모델이 광고 중심에서 AI와 봇 트래픽으로 인해 변화하고 있다고 설명했다.

xAI의 Grok 4.6, Amazon Bedrock에서 출시

xAI의 Grok 4.6이 2026년 8월 18일 Amazon Bedrock에서 출시되었다. 이 모델은 500K 토큰 컨텍스트 윈도우를 제공하며, 낮음, 중간, 높음, 매우 높음의 네 가지 수준에서 구성 가능한 추론 노력을 지원한다. Grok 4.6은 장기 실행 에이전트 및 상호작용, 시각적 작업에 중점을 두고 있으며, 복잡한 작업을 여러 단계에 걸쳐 수행할 수 있도록 설계되었다.

Claude Opus 5.5 출시 및 GPT-6 Luna와 Sol 가격 인하

Claude Opus 5.5가 출시되었으며, Fable 5.1보다 성능이 우수하고 가격이 저렴하다. Claude Code의 5시간 제한이 20% 증가하고, 기본 사고 수준이 중간으로 설정되었다. OpenAI의 GPT-6 Luna와 Sol은 이전 버전보다 50% 저렴하며, Luna는 $0.10/$0.50, Sol은 $2/$10로 가격이 책정되었다. Claude Code의 클라우드 세션이 미리보기에서 출시되었고, 기존 구독자는 한 번의 크레딧을 받을 수 있다.

NodeWright로 Kubernetes 노드 플릿 관리

Kubernetes는 노드에서 실행되는 작업을 관리하지만, 노드 자체의 관리가 도전 과제이다. 이는 커널 설정, 시스템 패키지, 스토리지 레이아웃, 보안 에이전트 및 GPU 작업 부하에 의존하는 호스트 수준 조정 등을 포함한다. 많은 팀은 Ansible 플레이북, 사용자 정의 스크립트 및 수동 런북을 사용하여 이를 관리하지만, 새로운 클러스터가 다른 지역에 생성되거나 커널 업그레이드로 RDMA가 중단되는 경우 문제가 발생할 수 있다.

테슬라, 옵티머스 로봇 훈련에 대한 직원 반발

테슬라가 전기차에서 휴머노이드 로봇으로의 전환을 시도하고 있지만, 복잡한 로봇 손과 로봇 대체에 대한 직원들의 반발로 어려움을 겪고 있다. 일론 머스크 CEO는 옵티머스 로봇을 회사의 미래에 중요한 제품으로 보고 있으며, 2026년 2분기 실적 발표에서 이를 '가장 큰 제품'으로 언급했다. 그러나 그는 다양한 작업을 수행할 수 있는 자율 로봇을 만드는 것이 '가장 어려운 문제 중 하나'라고 인정했다.

요즘IT와 노션의 로컬앱 자랑대회 개최

요즘IT는 2026년 10월 6일 저녁 7시에 위워크 선릉 3호점에서 로컬앱 자랑대회를 개최한다. 이번 대회에는 총 51건의 출전작이 접수되었으며, 본선 진출 4팀이 발표할 예정이다. 행사 방식은 오프라인 현장과 온라인 중계를 동시에 진행하며, 참가비는 무료이다.

Sony와 UMG, Suno에 대한 또 다른 소송 제기

Sony와 Universal Music Group(UMG)은 Suno의 새로운 v6 모델이 저작권을 침해한다고 주장하며 또 다시 소송을 제기했다. 이들은 Suno가 이전 모델의 사용자 출력으로 훈련된 v6 모델을 통해 여전히 저작권을 침해하고 있다고 주장하며, Suno가 저작권이 없는 음악을 사용해 훈련된 모델로부터 가치를 '세탁'하고 있다고 비난하고 있다. Sony와 UMG는 Suno와 라이선스 계약을 체결하지 않은 주요 레이블이다.

Kākāpō Party: Claude Opus 5.5로 만든 픽셀 아트 애니메이션

Simon Willison은 WeAreDevelopers World Congress North America에서 발표를 하며 2026년의 kākāpō 번식 시즌을 언급했다. 그는 Claude Opus 5.5를 사용하여 kākāpō의 픽셀 아트 애니메이션을 만들기 위해 세 장의 사진을 입력하고, HTML 5 캔버스에서 20마리의 kākāpō가 파티를 하는 애니메이션을 요청했다.

Ben Tossell의 오래된 기기 웹사이트 제작 과정

Ben Tossell은 1976년부터 2026년까지의 87개 인기 기기를 보여주는 웹사이트를 제작했다. 이 사이트는 Codex와 Factory를 사용하여 개발되었으며, 모든 이미지는 Astra에 의해 생성되었다. 사용자는 기기에 대한 투표를 할 수 있으며, 투표 결과는 별도의 페이지로 공유할 수 있다. 사이트는 bentossell.com/devices에 게시되었고, 기기 목록과 이미지는 각각 파일로 관리된다.

Maggie Appleton과의 대화: 디자인 엔지니어링과 AI의 협업

Maggie Appleton은 GitHub Next의 연구 엔지니어로, AI와 소프트웨어 엔지니어 간의 협업 방식을 탐구하는 프로토타입을 개발하고 있다. 그녀는 디자인, 인류학, 웹 개발의 교차점에 위치하며, AI 스타트업 Elicit의 첫 디자이너이자 Normally의 리드 디자인 엔지니어로 활동했다. Appleton은 프로젝트를 시작할 때 손으로 스케치하는 것을 선호하며, 디자인 과정에서의 문제 해결과 공학적 제약 이해의 중요성을 강조한다.

Sakeena Fiza의 NVIDIA 하드웨어 검증 엔지니어 역할

Sakeena Fiza는 NVIDIA에서 검증 엔지니어로 일하며, 시스템이 어떻게 고장날 수 있는지를 탐구하는 일을 한다. 그녀는 NVIDIA Rubin GPU가 시스템 레벨에서 처음으로 작동했을 때의 기쁨을 회상하며, 검증 과정이 대량 생산 전에 물리적 장치가 올바르게 작동하는지를 보장하는 것이라고 설명한다. Fiza는 하드웨어, 소프트웨어, 펌웨어 등 다양한 분야의 엔지니어들과 협력하여 복잡한 AI 시스템의 신뢰성을 높이는 작업을 수행한다.

AI가 최근 대학 졸업생 고용에 미치는 영향에 대한 연구 결과

CESifo의 연구자들은 최근 대학 졸업생의 고용에 AI가 미치는 영향에 대한 논문을 발표하며, "AI로 인한 광범위한 고용 감소나 채용 축소의 증거는 없다"고 주장했다. 연구자들은 AI가 많은 사무직의 상대적으로 표준화된 작업을 수행할 수 있게 되면서, 기업들이 더 경험이 많은 직원들을 해고하기보다는 단순한 역할에 대한 신규 채용을 줄일 수 있다고 설명했다. 또한, 2026년 졸업생들이 AI에 의해 더 큰 위험에 처할 수 있다는 점도 언급했다.

Nitin Nohria, AI가 CEO 역할에 미치는 영향에 대한 통찰

Nitin Nohria는 AI가 CEO의 역할에 중대한 변화를 가져올 것이라고 언급하며, AI가 기업의 비즈니스 프로세스와 인력을 재구성할 가능성이 있다고 말했다. 그는 CEO가 AI를 활용해 가상의 이사회 구성원으로 삼고, 자신의 사고를 검토할 수 있는 기회를 제공받을 수 있다고 설명했다. 또한, AI는 기업의 중앙 집중화된 권력을 재구성할 수 있으며, 이는 CEO의 권한에 위협이 될 수 있다고 경고했다.

AI 시대를 위한 교육 재구성에 대한 Amjad Masad의 의견

Replit의 창립자이자 CEO인 Amjad Masad는 AI와 함께 성장하는 세대를 위해 교육이 어떻게 변화해야 하는지를 논의했다. 그는 젊은이들이 깊이 있는 질문을 던지는 것이 사회에 중요한 가치라고 주장하며, 프로젝트 기반 학습과 아이디어 탐구의 자유를 강조했다. 또한, 젊은 창업자들이 너무 일찍 전문화되고 있는지, 그리고 창업이 때때로 '조기 최적화'의 형태가 될 수 있다고 언급했다.

Amazon Bedrock에서 오픈 웨이트 모델을 활용한 AI 코딩 에이전트 사용

AI 코딩 에이전트는 개발자가 소프트웨어를 작성하고 디버깅하며 리팩토링하는 데 핵심적인 역할을 하고 있다. Amazon Bedrock의 오픈 웨이트 모델을 통해 이러한 에이전트를 개인적으로 안전하고 비용 효율적으로 운영할 수 있다. OpenCode는 Go로 구축된 오픈 소스 AI 코딩 에이전트로, 파일을 읽고 수정하며, 셸 명령을 실행하고, 프로젝트 구조를 이해한다.

CLIC: 대형 언어 모델의 코딩 행동 비교를 위한 시각 분석 접근법

대형 언어 모델(LLMs)의 코딩 작업에 대한 평가는 주로 성능 지표에 집중되어 왔으나, LLM 간의 코딩 행동 차이에 대한 연구는 부족하다. 이를 해결하기 위해 CLIC(Code Learning for Identification and Comparison)라는 시각 분석 접근법을 제안한다. CLIC는 각 코드 샘플을 토큰 빈도의 특성 벡터로 표현하고, 해석 가능한 결정 트리를 훈련시켜 두 LLM의 코드 세트를 구분한다.

Cloudflare에서 Python Workers 일반 제공 시작

Cloudflare는 Python Workers를 일반 제공(GA)으로 출시했다. 이를 통해 Python은 Cloudflare Developer Platform에서 완전 지원되는 언어가 되었으며, FastAPI, Django, Flask와 같은 인기 Python 프레임워크를 사용할 수 있다.

Rust 프로그래밍 언어를 위한 안전한 GPU 커널 작성 시스템 cuTile Rust

cuTile Rust(cutile-rs)는 Rust 프로그래밍 언어에서 안전하고 관용적인 GPU 커널 작성을 위한 타일 기반 시스템이다. 이 시스템은 Rust의 소유권 모델을 타일 기반 GPU 커널에 확장하여 가변 출력을 분리된 조각으로 나누고, 커널 실행 간 호스트 측 소유권 계약을 유지한다. 또한, 프로그래머가 낮은 수준의 제어가 필요할 때 로컬에서 선택적으로 소유권을 포기할 수 있는 기능을 제공한다.