8월 2주 AI 하이라이트

AI 추론의 복잡성: 단순한 요청 이상의 과정

AI 모델은 훈련 후 비동기적으로 요청을 처리하며, 사용자 요청은 길이가 다양하다. 현대의 추론 시스템은 텍스트를 토큰화하고, 요청을 라우팅하며, GPU 작업을 스케줄링하고, 메모리를 관리하는 등 여러 작업을 수행한다. 예를 들어, 4,000개의 토큰으로 구성된 요청에 대해 300개의 토큰으로 응답하는 과정은 단순한 전방 패스가 아닌 복잡한 시스템을 필요로 한다.

Dwarkesh Patel과 Ryan Greenblatt의 팟캐스트에서 논의된 AI 연구 개발의 자가 개선 가능성

Dwarkesh Patel과 Ryan Greenblatt는 AI의 자가 개선 가능성에 대해 논의하며, Ryan은 AI 연구 개발이 AI가 특히 잘 수행할 수 있는 작업이라고 주장한다. 그는 AI 연구 개발이 많은 검증을 포함하고 있다고 설명하지만, 정렬 속성의 검증은 매우 어렵다고 지적한다. Dwarkesh는 AI가 과거의 작업을 기반으로 미래의 작업을 예측할 수 있을지에 대해 회의적인 입장을 보인다.

Mistral, 유럽의 AI 미래를 위한 인퍼런스 인프라 및 오픈 모델 통합

Mistral은 유럽이 AI 미래를 통제하기 위해 필요한 인퍼런스 인프라, 오픈 모델 및 장기적인 약속을 통합하고 있으며, 세계를 위한 로드맵을 설정하고 있다.

AI 성능의 세 가지 차원: 정확도, 처리량, 상호작용

AI 성능은 정확도, 처리량, 상호작용의 세 가지 차원으로 구성된다. 높은 정확도는 응답 속도가 느리면 의미가 없고, 처리량이 높더라도 사용자 경험이 지연되면 효과가 없다. 따라서 실제 시스템은 이 세 가지 요소를 함께 최적화해야 한다. 이 글은 처리량과 상호작용에 중점을 두고 모델 설계 선택이 두 요소에 어떻게 영향을 미치는지를 다룬다.

GitHub에서 소프트웨어 배포 워크플로우를 위한 에이전트 앱 활용

GitHub의 에이전트 앱을 사용하면 Amplitude, Endor Labs, LaunchDarkly, PagerDuty와 같은 도구를 GitHub 내에서 직접 활용할 수 있다. 이를 통해 개발자는 코드 작성 전후로 필요한 정보를 쉽게 확인하고, 의사결정을 지원받을 수 있다. 예를 들어, Amplitude 에이전트를 통해 팀 초대 단계가 성공과 관련이 있는지 확인하고, Endor Labs 에이전트를 통해 의존성의 취약점을 사전에 점검할 수 있다.

Amazon Quick, Microsoft 365에서 데이터 접근과 문서 편집 지원

Amazon Quick는 Microsoft 365의 Word, Excel, PowerPoint, Outlook에서 사용할 수 있는 AI 어시스턴트로, AWS 데이터 소스와 Amazon Quick Sight 대시보드에 직접 접근할 수 있다. 이 확장 기능은 별도의 애플리케이션을 설치할 필요 없이 기존의 작업 방식에 통합되어, Plus, Professional, Enterprise 플랜 사용자에게 추가 라이센스 없이 제공된다.

Amazon SageMaker AI와 Amazon Bedrock AgentCore로 에이전트 워크플로우 구축하기

Amazon SageMaker AI와 Amazon Bedrock AgentCore를 사용하여 관리형 기초 모델과 도메인 특화 모델을 결합하는 방법을 설명한다. Qwen 3.5 9B 모델을 Amazon SageMaker AI에 배포하고, Strands Agents 다중 에이전트 시스템과 통합하여 Amazon Bedrock AgentCore 런타임으로 전체 워크플로우를 전송하는 과정을 다룬다.

Amazon Nova Forge를 활용한 다중 턴 강화 학습의 맞춤 보상 함수 설계

다중 턴 강화 학습에서 맞춤 보상 함수는 모델의 학습 내용을 결정한다. Amazon Nova Forge는 사용자가 정의한 보상 로직을 실행할 수 있는 환경을 제공하며, 서버리스 다중 턴 RL 옵션도 지원한다. 이 글에서는 Group Relative Policy Optimization (GRPO)에서 학습할 수 있는 복합 다중 턴 보상 설계 방법과 모델 생성 코드의 안전한 실행 방법을 다룬다.

Qwen3.8-2.4T-A95B 출시

Qwen3.8-2.4T-A95B가 출시되었다. 관련 링크는 Hugging Face에서 확인할 수 있다.

SpaceX의 Grok 4.6 모델 출시 및 성능

SpaceX 팀이 Grok 4.6 모델을 출시했다. Grok 4.6은 1.5T 모델로, Grok 4.5보다 긴 보조 훈련을 거쳤으며, 지식 작업, 일반 코딩, 웹 개발, 컴퓨터 지원 설계 등 다양한 작업에 최적화되어 있다. Grok 4.6은 가격 대비 성능에서 우수한 평가를 받았으며, 입력/출력 토큰당 $2/$6로 경쟁 모델보다 저렴하다. Grok 4.7의 초기 훈련도 이미 완료되었다.

AI 스킬 15가지와 복사 가능한 프롬프트 제공

The Neuron의 5월 14일부터 31일까지의 뉴스레터에서 Claude, ChatGPT, Gemini, Codex 및 AI 에이전트를 위한 15가지 실용적인 AI 스킬과 복사 가능한 프롬프트가 제공된다.

NVIDIA nvmath-python으로 고성능 수학 연산 실행하기

NVIDIA nvmath-python은 Python 과학 커뮤니티와 NVIDIA CUDA-X 수학 라이브러리 간의 간극을 메우기 위해 설계된 라이브러리이다. 이 라이브러리는 Python 사용자에게 기존 워크플로를 방해하지 않고도 일반적인 수학 연산에 대해 CUDA-X 성능을 제공한다. API에 따라 연산은 CPU, CUDA 지원 GPU 또는 분산된 다중 GPU, 다중 노드 시스템에서 실행될 수 있다.

Substack의 AI 감지기 기능과 DIY LLM 프로젝트

Substack은 최근 UI에 AI 감지기 기능을 추가했다. 이 프로젝트는 AI 감지기를 구현하고, 이를 통해 작은 언어 모델(LLM)을 훈련시켜 감지를 피하는 텍스트를 생성하는 방법을 설명한다. AI 감지기는 스팸 콘텐츠를 필터링하고 개인의 글쓰기 개선에 활용될 수 있다. 이 튜토리얼에서는 0-100 점수를 반환하는 분류기를 구축하며, DistilBERT 분류기를 미세 조정할 예정이다.

Doug Turnbull의 모델 태깅 방법

Simon Willison의 블로그에서 Doug Turnbull이 제안한 방법은 모델에게 기존 태그의 세부 정보를 제공하지 않고 태그를 출력하도록 한 후, 생성된 태그와 기존 코퍼스의 벡터 임베딩을 비교하여 가장 적합한 태그를 찾는 것이다. 예를 들어, 'brown coffee table'에 대한 분류를 생성하는 과정을 설명하고 있다.

Cloudflare의 MCP 트래픽 탐지 및 보안 기능

Cloudflare는 새로운 Cloudflare One 기능을 통해 MCP 트래픽을 식별하고, 이를 생성하는 사용자 및 서버를 보여주며, 관리된 네트워크 경로에서의 직접 연결을 제어할 수 있도록 지원한다. Model Context Protocol(MCP) 서버는 에이전트가 제3자 SaaS 제품, 내부 애플리케이션 및 API를 발견하고 호출할 수 있는 공통 방법을 제공한다.

Cloudflare Access로 Worker 애플리케이션의 보안 강화

Cloudflare는 이제 모든 Worker 애플리케이션을 기본적으로 회사 로그인 뒤에 두는 새로운 도구를 출시했다. 사용자는 계정 수준에서 정책을 설정하여 모든 미리보기 및 프로덕션 배포가 기본적으로 보호되도록 할 수 있으며, 특정 애플리케이션에 대한 인증을 강제할 수 있다. Access가 활성화되면 요청이 Worker 코드에 도달하기 전에 인증이 필요하며, 각 요청에 대한 사용자의 이메일, 이름 및 그룹 정보를 얻을 수 있다.

Microsoft Copilot의 Mico 캐릭터, Learn Live로 이동

Microsoft Copilot의 음성 모드에서 Mico라는 감정 표현이 있는 노란색 캐릭터가 더 이상 표시되지 않는다. Microsoft는 Mico를 Learn Live 플랫폼으로 이동시킬 예정이며, 여기서 아바타는 '더 많은 반응을 할 수 있다'고 밝혔다. Mico는 지난해 10월 Copilot의 음성 모드에서 처음 출시되었고, 실시간으로 사용자 발언에 반응하며 얼굴 표정과 애니메이션을 제공했다.

Gemini, 구글의 가장 빠르게 성장한 제품으로 10억 사용자 달성

구글의 Gemini가 10억 명의 월간 활성 사용자(MAU)를 기록하며 구글 제품 중 가장 빠르게 성장하고 있다. CEO 순다르 피차이는 Gemini가 구글의 다양한 제품과 서비스에 통합되어 있으며, Gmail의 이메일 조직, Drive의 문서 요약 등에서 활용되고 있다고 밝혔다. 그러나 10억 사용자 수치는 Gemini 앱을 열거나 Gemini 웹 인터페이스를 방문한 사용자만을 기준으로 한다.

Your AI Slop Bores Me: 인간과 AI 역할극 시스템

Your AI Slop Bores Me는 두 개의 탭, 즉 인간과 AI 역할극을 통해 작동하는 시스템이다. 사용자는 요청을 입력하고, 다른 사용자는 AI 역할을 맡아 150초 이내에 응답해야 한다. 요청은 텍스트 또는 이미지로 할 수 있으며, 요청을 하려면 크레딧이 필요하고, 크레딧은 AI 역할을 맡아 응답함으로써 얻을 수 있다. 매 2분마다 한 번의 무료 요청이 가능하다.

Warner Music Group CEO 로버트 킨클, AI와 음악 산업에 대한 통찰

Warner Music Group의 CEO 로버트 킨클은 AI 음악 회사인 Suno와의 협력 이유와 음악 스트리밍 플랫폼에 대한 레이블의 영향력을 설명했다. 그는 음악 산업이 AI의 위협에 직면해 있지만, 백 카탈로그를 통해 음악 발견이 용이해지고 있으며, 월스트리트가 음악을 매력적인 자산으로 보고 있다고 언급했다. 또한, 음악 로열티가 장기적인 수익을 창출할 수 있는 자산 클래스로 자리잡고 있다고 강조했다.

10세에서 18세 아동의 AI에 대한 다양한 의견

MIT Technology Review의 조사에 따르면, 10세에서 18세 아동들은 AI에 대해 다양한 반응을 보였다. 일부는 AI를 사용해 과제를 작성하거나 정보를 검색하는 반면, 다른 이들은 환경적 영향이나 창의성 상실에 대한 우려를 표명했다. Pew Research Center의 2026년 조사에 따르면, 미국의 57% 청소년이 정보를 검색하기 위해 챗봇을 사용했으며, 54%는 학업에 도움을 받기 위해 사용했다.

Descript와 Riverside의 팟캐스트 및 비디오 편집 비교

Descript는 전사 중심 편집 및 AI 지원 후반 작업에 더 적합하다. 반면, Riverside는 고품질 원격 녹음, 라이브 세션 및 게시에 더 적합하다.

AI가 소프트웨어 엔지니어링의 중산층을 제거하고 있다

사용자들이 보고한 버그가 해결되지 않고 있으며, AI인 Fable조차 이를 수정하지 못하고 있다. 팀원 중 한 명은 데이터 출처를 모르고 Claude에게 문의하고, 둘은 화면에 나타나는 방대한 텍스트를 보며 진위 여부를 알지 못한다. 프로젝트가 복잡해져 팀원 누구도 상황을 이해할 수 없는 상태이다.

Google의 Gemini 3.7 Flash 출시

Google은 코딩 및 에이전트를 위한 가장 스마트한 도구인 Gemini 3.7 Flash를 출시했다.

alchemy-utils 0.1a0 출시

alchemy-utils 0.1a0이 출시되었다. 이 라이브러리는 SQLite-utils와 동일한 핵심 API를 가지며, SQLalchemy를 기반으로 여러 데이터베이스 엔진에서 작동하도록 설계되었다. PostgreSQL, SQLite, DuckDB를 테스트하며, 사용자는 명령어를 통해 데이터베이스의 행을 나열하거나 CSV 파일을 DuckDB 데이터베이스에 삽입할 수 있다.

1.5B 모델을 활용한 셸 명령어 생성기

연구 프로젝트로 시작된 이 모델은 125,000개의 자연어/명령어 쌍을 기반으로 Fine-tuned Qwen2.5-Coder-1.5B로 훈련되었으며, 941MB 크기로 llama.cpp를 통해 실행된다. 테스트 결과, i5-11320H CPU에서 31.9 tok/s의 속도로 쿼리를 처리하며, InterCode-ALFA에서 0.620의 점수를 기록했다. 모델의 가중치는 Hugging Face와 GitHub에 공개되었다.

NVIDIA JetPack 7.2.1, Agentic Video Skills 및 T3000 에뮬레이션 추가

NVIDIA JetPack 7.2.1은 로봇 공학, 지능형 비디오 분석, 산업 자동화, 의료, 미디어 처리 및 원격 작업 등 다양한 Jetson 애플리케이션에서 비디오를 핵심 데이터 경로로 사용한다. 시스템은 여러 카메라를 캡처하고, 네트워크 스트림을 디코딩하며, AI 추론 또는 전통적인 비전 처리를 수행하고, 결과를 표시한 후 비디오를 저장 또는 전송을 위해 인코딩할 수 있다.

Amazon Bedrock AgentCore Browser Tool로 레거시 웹 애플리케이션 자동화

Amazon Bedrock AgentCore Browser Tool은 Strands Agents와 결합하여 레거시 웹 애플리케이션의 자동화를 지원하는 관리형 브라우저 서비스를 제공한다. 이 도구는 AI 에이전트가 안전한 세션을 통해 레거시 인터페이스와 상호작용할 수 있도록 하며, HTTP 또는 HTTPS를 통해 접근 가능한 레거시 애플리케이션에 적용 가능하다.

GitHub Actions 사건 및 가용성 보고서

2026년 8월 6일 GitHub Actions 사건은 고객의 생산성과 신뢰에 부정적인 영향을 미쳤다. GitHub은 사건의 근본 원인 분석을 진행 중이며, 9월에 가용성 게시물에 사건의 세부 사항을 포함할 예정이다. GitHub은 Azure로의 이전을 가속화하고 있으며, 7월에는 모놀리식 읽기 트래픽의 52.75%가 Azure Central US에서 처리되었다.

구글 딥마인드의 변화와 로봇 산업의 IPO 소식

Generalist AI는 로봇 공학에 집중하는 스타트업으로, 현재 4개의 주요 휴머노이드 로봇 회사가 IPO를 준비 중이다. 중국의 Unitree Technology는 상하이 IPO를 통해 500억 위안(74억 달러) 이상의 가치를 예상하고 있다. 구글의 AI 리더십이 변화하고 있으며, Jeff Dean이 27년 근무 후 Discovery Loop라는 회사를 설립한다.

OpenAI의 수익 책임자 Denise Dresser, 곧 퇴사

OpenAI의 수익 책임자(CRO)인 Denise Dresser가 다른 기회를 추구하기 위해 몇 주 내로 퇴사할 예정이다. Dresser는 12월에 OpenAI에 합류하기 전 Slack의 CEO로 재직했다. Dresser의 퇴사는 최근의 주요 인사 이동 중 하나로, 이전 COO인 Brad Lightcap도 이번 주에 퇴사 소식을 전했다.

Meta, 자사에서 촉발한 이직 물결을 막지 못하다

Meta는 해고와 강제 재배치로 인해 영향을 받지 않은 엔지니어들이 새로운 직장을 찾도록 만들었다. 이를 막기 위해 대규모 주식 보상을 제공하고 있지만 효과를 보지 못하고 있다. Cursor 팀은 지식 작업을 위한 일반 AI 하네스를 개발 및 출시했으며, 이는 'Codex 경험'과 유사하다. 이 하네스를 통해 많은 일상 업무를 자동화할 수 있었다.

Robert N. Charette와의 20년간의 협업 이야기

IEEE Life Senior Member Robert N. Charette는 소프트웨어 개발의 실패 원인에 대한 기사를 통해 소프트웨어의 가시성을 높이려는 목표를 가지고 있었다. 그는 2007년부터 10년 이상 동안 1,750개의 블로그 포스트를 작성하며 소프트웨어 문제를 다루었고, 2016년에는 IT 실패에 대한 인포그래픽으로 Jesse H. Neal Award를 수상했다.

NVIDIA CEO 젠슨 황, Glassdoor 2026 최고의 CEO 1위

NVIDIA의 창립자이자 CEO인 젠슨 황이 Glassdoor의 2026 최고의 CEO 목록에서 1위를 차지했다. 직원들로부터 99%의 승인률을 기록하며, Glassdoor는 뛰어난 리더십이 현대 직장에서 더욱 중요하다고 언급했다. Glassdoor는 5년 만에 최고의 CEO 목록을 재도입했으며, 기술 분야에서 9명의 CEO가 이 목록에 포함되었다. NVIDIA는 2026년 최고의 일터 목록에서도 1위를 차지했다.

GitHub Universe 2026 일정 발표

GitHub Universe 2026 일정이 공개되었으며, AI 기반 개발의 잠재력에 대한 세션, 데모, 패널이 포함된다. 이 행사는 2026년 10월 28일부터 29일까지 샌프란시스코의 Fort Mason Center에서 열리며, AMD, Figma, NVIDIA, Coinbase, Anthropic, OpenAI의 전문가들이 참여한다. 주요 세션으로는 Copilot 구성, GitHub의 스택된 풀 리퀘스트, AI 유창성 구축 등이 있다.

Charity Majors가 말하는 AI의 소프트웨어 엔지니어링 변화

Charity Majors는 2025년 AI에 대한 회의적 시각이 있었으나, 2026년에는 AI가 소프트웨어 산업에 변화를 가져오고 있다고 주장한다. 그녀는 AI가 코드 생성의 경제성을 변화시키고 있으며, 신뢰성과 검증이 점점 더 중요한 병목 현상이 되고 있다고 설명한다. AI는 2010년대 클라우드 컴퓨팅이 인프라 계층에 미친 영향과 유사한 변화를 소프트웨어 구축에 가져올 것이라고 예측한다.

vLLM 모델 변환 및 배포 자동화 과정

vLLM에서 모델 변환 및 배포를 자동화하기 위해 Claude Code Skill을 활용하여 Hugging Face 모델을 vLLM에 통합하는 절차를 구현했다. 이 과정에서 7개의 서로 다른 모델을 변환하고, 45개의 주의 사항을 재사용 가능한 지식으로 축적했다. 호출당 토큰 수를 6,900개에서 170개로 줄였으며, GitHub Issue를 통해 E2E 파이프라인을 구성했다.

토스의 모노리포 전략과 카탈로그 도입으로 통합된 개발환경

토스에서는 100명이 넘는 프론트엔드 엔지니어들이 React 19와 Next.js 15를 사용하여 제품을 개발하고 있으며, 모든 모바일 제품 코드는 1개의 모노리포로 통합되어 있다. 그러나 초기에는 다양한 의존성 버전으로 인해 개발 경험이 파편화되었고, 이를 해결하기 위해 표준 라이브러리 버전을 제공하는 '카탈로그'를 도입했다. 카탈로그를 통해 모든 서비스가 동일한 의존성 버전을 참조하게 되어 설치 시간이 단축되고, 개발자 경험이 개선되었다.