AI 뉴스
Apple, EU와의 합의 및 독일 ATT 정책 조정
Apple은 EU와의 합의에 따라 App Store 수수료 인하와 독일의 ATT 정책 조정을 진행했다. Ben Thompson은 Apple의 정책 변화가 현재 기술 분야의 다양한 가능성과 우려 속에서 다소 평범하게 느껴진다고 언급했다. 또한, 이번 주 Sharp Tech 에피소드에서는 AI 사이버 보안, 코드 작성에 대한 통찰 등이 다뤄졌다.
Apple의 App Store 수수료 인하가 향후 앱 개발 및 배포에 미치는 영향이 클 것으로 예상된다.
Amazon Bedrock에서 쿼리 인식 압축으로 RAG 비용 절감하기
Amazon Bedrock은 Retrieval Augmented Generation (RAG) 애플리케이션을 구축하기 위한 기초 모델과 기능을 제공한다. 쿼리 인식 압축을 통해 모델에 도달하는 입력 토큰 수를 줄여 비용을 절감할 수 있으며, 이 과정에서 답변 품질을 유지할 수 있다. 이 방법은 Amazon Bedrock의 Knowledge Bases와 호환되며, 사용자의 쿼리에 따라 필터링된 컨텍스트를 제공하여 관련 없는 맥락을 제거함으로써 환각의 가능성을 줄인다.
쿼리 인식 압축은 Amazon Bedrock에서 입력 토큰 수를 줄여 비용을 절감하는 효과적인 방법이다.
llm-openrouter 0.7 버전 출시
llm-openrouter 0.7이 출시되었으며, 이제 이 플러그인은 LLM 0.32와 호환되어 OpenRouter를 통해 사용할 수 있는 LLM의 추론 추적을 표시할 수 있다. 또한 모델은 OpenRouter의 Responses API 구현을 사용하며, 새로운 서버 측 도구로 Shell, WebFetch, WebSearch가 추가되었다. 이 도구들은 '-T WebSearch'와 같은 옵션으로 활성화할 수 있다.
llm-openrouter 0.7은 LLM 0.32와 호환되어 OpenRouter를 통해 LLM의 추론 추적을 표시할 수 있게 되었다.
파나소닉 항공 전자, AWS와 협력하여 항공기 IFEC 진단 자동화
파나소닉 항공 전자(Panasonic Avionics Corporation)는 AWS와 협력하여 항공기 내 비행 엔터테인먼트 및 연결(IFEC) 시스템의 진단 시간을 단축하는 에이전틱 AI 시스템을 구축했다. 이 솔루션은 Amazon Bedrock, Amazon SageMaker, AWS Glue를 활용하여 진단 정확도를 유지하면서도 진단 시간을 크게 줄인다. 또한, 다수의 배포 구성에서 발생하는 고유 로그 패턴을 분석하고, 이를 통해 MTTD(Mean Time to Detect)와 MTTR(Mean Time to Resolve)를 개선하는 것을 목표로 한다.
Amazon Bedrock, Amazon SageMaker, AWS Glue를 사용하여 진단 시간을 단축하고 진단 정확도를 유지하는 AI 시스템을 구축했다.
LLM의 간결한 출력 방식이 비용 절감에 미치는 영향
Claude Code는 간결한 출력 스타일을 도입하여 LLM의 출력 내용을 짧게 유지할 수 있게 했다. 연구 결과, 출력 내용을 줄이는 것이 평균 1.5배, 최악의 경우 3배까지 비용을 절감할 수 있으며, 이는 여러 언어에서도 효과적이었다. 반면, 입력 프롬프트를 줄이는 경우 비용이 최대 96% 증가하고 정확도가 떨어졌다. 출력 토큰이 입력 토큰보다 비용이 더 비쌌으며, 간결한 출력을 요구하는 것이 짧은 단일 작업에서 비용 절감에 도움이 된다.
출력 내용을 줄이는 것이 평균 1.5배 비용을 절감할 수 있다.
NVIDIA DSX MaxLPS를 통한 AI 공장 성능 극대화
AI 공장은 전력 제약이 있는 산업 시스템이다. 데이터 센터에 몇 개의 GPU가 들어가는지가 아니라, 각 사용 가능한 메가와트가 얼마나 많은 AI 출력을 제공할 수 있는지가 중요하다. AI 추론 작업의 경우, 애플리케이션 수준의 성능을 와트당 측정하는 것이 AI 공장 효율성을 평가하는 핵심 지표가 된다.
AI 추론 작업에서 와트당 성능이 AI 공장 효율성을 평가하는 중요한 지표가 된다.
Agentic AI를 활용한 반도체 공정 문제의 빠른 원인 분석
웨이퍼 수율 문제가 발생할 때, 원인은 단일 시스템에 있지 않으며, 메트롤로지 데이터, 도구 추적, 화학 분석 및 시설 시스템에 걸쳐 분산되어 있다. Agentic AI와 반도체 전용 시각화, 푸시다운 컴퓨팅을 통해 수십억 개의 데이터 포인트를 아우르는 빠른 조사와 복잡한 크로스 도메인 분석이 가능하다. Spotfire® Industry Pro를 사용하여 다중 도메인 원인 조사를 수행하는 라이브 데모도 제공된다.
Agentic AI는 복잡한 크로스 도메인 분석과 시각화 생성을 자동화하여 수율 회복을 지연시키는 분리된 제조 데이터를 처리하는 데 도움을 준다.
Ben Tossell의 개인 에이전트 설정 방법
Ben Tossell은 개인 에이전트를 설정하는 방법을 설명하며, 필요한 파일과 폴더 구조를 제안했다. 주요 파일로는 AGENTS.md(주요 지침), code.md(빌딩 선호도), todos.md(현재 작업), memory.md(기억 파일), log.md(세션 로그)가 있다. 또한, git을 사용하여 파일 버전을 관리할 수 있으며, 자동 메모리 저장 기능에 대한 고민도 언급했다.
개인 에이전트는 AGENTS.md와 같은 주요 지침 파일을 통해 사용자 맞춤형으로 설정할 수 있다.
유명 유튜버들이 AI 플랫폼 Higgsfield의 파트너십 제안에 반발
최근 Matti Haapoja와 Sam Kolder를 포함한 여러 유명 콘텐츠 제작자들이 AI 플랫폼 Higgsfield의 Seedance 2.5 기능을 시연하는 영상을 게시했다. 이 영상들은 비디오 제작의 미래로서 이 기술을 강조하고 있다. 그러나 다른 제작자들은 Higgsfield를 대신해 PR 회사로부터 받은 파트너십 제안의 스크린샷을 공유하며 반발하고 있다.
AI 에이전트 스택에서 보안의 역할
AI 에이전트가 더 능력 있게 발전하고 긴 시간 동안 작동함에 따라, 이들이 구동하는 애플리케이션에 보안과 신뢰를 구축하는 것이 점점 더 중요해지고 있다. NVIDIA는 OpenShell과 협력하여 에이전트 개발자, 오픈 소스 프로젝트, 생태계의 파트너들과 함께 AI 안전 및 보안 팀의 관점을 제공하고 있으며, 각 계층의 역할을 포함한 새로운 에이전트 스택에 대한 논의를 진행하고 있다.
NVIDIA OpenShell을 통한 협업은 AI 에이전트의 보안 및 신뢰 구축에 중요한 역할을 한다.
Microsoft Gaming의 Aaron Zollman, AI 에이전트 보안 논의
a16z의 Joel De La Garza가 Microsoft Gaming의 Aaron Zollman과 함께 AI 에이전트를 안전하게 사용할 수 있는 방법에 대해 논의했다. Aaron은 OpenClaw에 대한 Microsoft의 경험을 공유하며, 처음에는 이를 금지하려 했으나 안전하게 사용하는 방법을 찾았다고 설명했다. 이들은 AI 에이전트가 신원, 권한, 컨테이너화 및 모니터링에 미치는 영향과 CISO의 역할 변화에 대해 이야기했다. 또한 AI가 취약점을 신속하게 패치하는 데 도움이 될 수 있는지와 새로운 AI 위협이 기존 보안 문제를 해결하지 않는 이유를 탐구했다.
AI 에이전트의 안전한 사용을 위한 보안 팀의 접근 방식 변화는 기업의 보안 전략에 중요한 영향을 미칠 수 있다.
메타 AI 안경의 수요 증가와 비공식 녹음 우려
메타 AI 안경이 인기를 끌면서, 사람들이 일상에서 비밀리에 녹음될 가능성이 높아지고 있다. 메타는 가장 인기 있는 스마트 안경 제조업체이며, 이러한 장치들이 보편화됨에 따라 학교, 법원, 식당 등 일부 공공장소에서 금지되고 있다. DEF CON 2026의 해커들은 예외 없이 스마트 안경을 금지하며, 처방 안경을 사용하는 참석자들에게는 비위반 안경을 챙길 것을 권고했다.
메타 AI 안경의 사용 증가로 인해 공공장소에서의 개인 정보 보호 문제가 심각해질 수 있다.
ShogunAI: 개인용 AGI를 PC에서 사용하기
ShogunAI는 개인용 AGI로, 실제 작업을 완료하기 위해 설계된 소프트웨어입니다.
ShogunAI는 개인용 AGI를 통해 사용자가 PC에서 실질적인 작업을 수행할 수 있도록 지원합니다.
Poolside, NVIDIA에 12억 달러 규모의 역직원 인수 진행
Poolside는 NVIDIA에 12억 달러 규모의 역직원 인수를 진행했다. 이 과정에서 Poolside의 창립자들은 10억 달러를 받고 남아 있으며, 109명의 직원이 NVIDIA로 이직한다. Eiso Kant는 모든 적용 연구 및 엔지니어링 역할을 채용하고 있으며, 115명의 엔지니어와 연구원이 모델 개발에 참여했다고 밝혔다. 현재 AI의 가치가 실험 기반 문제 해결에 더 크게 기여할 것이라고 강조했다.
NVIDIA는 Poolside의 109명의 기술 직원을 인수하여 인력 자원을 확장하고 있다.
Windows용 Ambient AI 동반자 Project SKY
Project SKY는 Windows 운영체제에서 사용할 수 있는 Ambient AI 동반자입니다.
Pocket by Meta: Vibe-code 게임 공유 기능
Meta의 Pocket은 Vibe-code 게임을 생성하고 이를 TikTok처럼 공유할 수 있는 기능을 제공한다.
토스증권의 LLM 서빙 모니터링과 문제 해결 사례
LLM 서빙 생태계가 변화하며, 토스증권은 다양한 오픈 소스 LLM과 튜닝 모델을 활용하고 있다. LLM의 서빙은 단순히 배포하는 것에서 벗어나, 효과적으로 운영하는 것이 중요해졌다. 토스증권은 쿠버네티스와 Argo CD를 활용해 ML 플랫폼을 구축하고, Grafana와 Kibana로 모니터링을 진행한다. LLM에 특화된 지표를 통해 문제를 발견하고 해결하는 과정에서 Prefix Cache Hit Rate와 finish_reason 같은 지표를 활용하여 성능을 개선했다. 또한, 중앙화된 모니터링 시스템을 통해 문제를 신속하게 탐지하고 대응하는 방법론을 정립했다.
토스증권은 LLM 서빙에서 Prefix Cache Hit Rate와 같은 LLM 특화 지표를 활용하여 성능 문제를 효과적으로 해결했다.
ChatGPT 검색에서 site: 연산자 사용 확대
Promptwatch는 ChatGPT, Claude, Gemini와 같은 사용자 채팅 제품에 대한 응답을 자동으로 추적하여 집계 보고서를 발행한다. 최근 GPT-5.6의 출시와 함께 ChatGPT 검색 쿼리 중 site: 연산자를 포함하는 비율이 0.3%에서 0.5% 사이에서 16-17%로 급증했다. 이 변화는 OpenAI의 8월 6일 발표와 관련이 있다.
ChatGPT 검색에서 site: 연산자의 사용 비율이 16-17%로 증가함에 따라, 웹사이트의 가시성을 높이기 위한 전략이 중요해졌다.
Google Discover, AI 챗봇 기반 맞춤형 피드 기능 도입
Google은 곧 Discover 피드를 사용자가 원하는 내용을 설명하여 맞춤 설정할 수 있는 기능을 도입할 예정이다. 이 기능은 Google 앱에서 '곧' 제공되며, AI를 사용해 피드를 자동으로 조정하고 사용자의 선호도를 기억한다. 사용자는 Discover 피드의 세 점 메뉴에서 이 옵션을 찾을 수 있으며, 챗봇 스타일의 인터페이스를 통해 선호도를 설명할 수 있다.
사용자는 AI를 통해 개인화된 콘텐츠를 더 쉽게 받을 수 있다.
Amazon Bedrock에서 OpenAI GPT-5.6 모델의 크로스 리전 추론 도입
Amazon Bedrock은 25개 이상의 AWS 리전에서 OpenAI GPT-5.6 모델을 제공하며, 크로스 리전 추론을 지원한다. Sol, Terra, Luna의 세 가지 GPT-5.6 변형이 있으며, 각 변형은 성능과 비용의 균형을 맞추도록 조정되었다. 크로스 리전 추론은 인퍼런스 프로필을 통해 작동하며, 요청을 소스 리전에서 호출하고, Amazon Bedrock이 해당 리전의 컴퓨트를 사용하여 요청을 목적지 리전으로 라우팅한다.
크로스 리전 추론을 통해 요청이 더 넓은 컴퓨트 풀을 활용할 수 있어 처리량이 개선되고 부하 하에서도 일관된 성능을 유지할 수 있다.
Snowflake와 Amazon SageMaker Canvas를 활용한 노코드 ML 워크플로우 구축
Healthcare, retail, life sciences 조직들은 Snowflake와 같은 클라우드 데이터 웨어하우스에서 대량의 운영 데이터를 생성하지만, 이를 의미 있는 예측으로 변환하는 데 어려움을 겪고 있다. Amazon SageMaker Canvas를 사용하면 코드 작성 없이 데이터셋 탐색, 기능 준비, 예측 모델 구축이 가능하다. 이 글은 AWS 계정과 Snowflake 환경 설정을 다루며, 후속 편에서는 데이터 준비 및 모델 구축, 예측 결과 시각화를 위한 Amazon Quick과의 연결을 설명할 예정이다.
Amazon SageMaker Canvas는 비즈니스 분석가와 운영 팀이 데이터 과학 자원에 의존하지 않고도 예측 모델을 구축할 수 있도록 지원한다.
1인 기업가를 위한 AI 시대의 인사이트
최근 Y Combinator의 Tom Blomfield, Stripe의 Patrick Collison, 메타 슈퍼인텔리전스 랩의 Alexandr Wang, Hermes 창업자 Karan Malhotra의 대담에서, 혼자 일하는 사람의 화력이 구조적으로 증가하고 있다는 공통된 메시지가 전달되었다. 특히 Patrick Collison은 Stripe의 신규 사업 수가 전년 대비 약 두 배 증가했으며, 매출 도달 확률도 개선되었다고 밝혔다. 이는 작은 기업이 AI 에이전트를 활용해 대기업을 앞지를 수 있는 기회를 제공한다는 점에서 중요하다.
Patrick Collison의 데이터에 따르면, 현재 기업들이 '현상 유지의 리스크'를 느끼고 있어 작은 기업과의 거래가 증가하고 있다.
/wayfinder 스킬: 불확실한 프로젝트 계획을 위한 도구
/wayfinder는 Matt Pocock이 개발한 스킬로, 불확실한 프로젝트의 계획을 돕기 위해 설계되었다. 이 스킬은 AFK 에이전트를 활용하여 작업을 계획하고, 다양한 티켓 유형(그릴링, 프로토타입, 연구, 작업)을 통해 프로젝트를 관리할 수 있도록 한다. Pocock은 이 스킬이 정보 흐름을 관리하고, 세부적인 사양을 작성하는 데 유용하다고 설명했다.
/wayfinder는 프로젝트의 불확실성을 해소하고, 계획 세션을 효율적으로 관리할 수 있는 기능을 제공한다.
Google Gemma 모델 10억 다운로드 달성 및 기념 행사
Google Gemma는 오픈 모델 가족이 10억 다운로드를 달성했다고 발표했다. 이를 기념하기 위한 행사가 8월 20일 샌프란시스코에서 열리며, 오픈 소스 개발자와 연구자들을 초대한다. 행사 참석은 신청이 필요하다. Demis Hassabis가 공식 계정을 통해 발표했으며, Clément Farabet도 참석 의사를 밝혔다.
Google Gemma의 10억 다운로드는 오픈 소스 커뮤니티의 기여를 보여준다.