AI 뉴스
NVIDIA TensorRT 11.0에서 다중 GPU를 통한 모델 서빙 간소화
NVIDIA TensorRT의 다중 장치 추론 기능은 단일 TensorRT 네트워크가 여러 GPU에서 실행될 수 있도록 하며, NCCL 기반의 분산 집합을 사용하여 TensorRT 추론 최적화를 유지합니다. 이 기능은 생성 AI의 컴퓨팅 및 메모리 요구가 단일 GPU의 한계를 초과함에 따라 도입되었습니다. TensorRT 11.0부터 완전히 지원됩니다.
NVIDIA TensorRT 11.0의 다중 장치 추론 기능은 생성 AI의 성능을 향상시키는 데 중요한 역할을 할 수 있다.
AI 에이전트 평가: 도구 호출에서 작업 완료까지
AI 에이전트를 배포할 때 중요한 질문은 에이전트가 실시간 환경에서 수십 개의 연속적인 도구 호출을 통해 작업을 수행하고, 단계가 실패했을 때 복구할 수 있는지를 평가하는 것이다. 단일 함수 호출의 점수만으로는 작업이 완료되었는지를 판단할 수 없기 때문에, 에이전트 평가 방식은 단일 함수 호출의 점수를 매기는 것에서 전체 작업을 평가하는 방향으로 진화해야 했다.
AI 에이전트의 성공적인 배포를 위해서는 전체 작업을 평가하는 새로운 기준이 필요하다.
Meta Muse, 연 800달러 절약한 전화 대행 서비스
Meta의 퍼스널 에이전트 Muse가 미국 앱스토어에서 출시 일주일 만에 상위 3위에 올랐다. 크리에이터 Peter Yang은 Muse를 통해 케이블과 통신 요금으로 연 800달러 이상을 절약했다고 밝혔다. Muse는 사용자의 전화를 대신 걸어주는 기능을 제공한다.
Muse는 사용자의 요금 절감에 직접 기여하는 AI 서비스의 사례로, 실질적인 비용 절감 효과를 보여준다.
xAI의 Grok 4.6, Amazon Bedrock에서 출시
xAI의 Grok 4.6이 2026년 8월 18일 Amazon Bedrock에서 출시되었다. 이 모델은 500K 토큰 컨텍스트 윈도우를 제공하며, 낮음, 중간, 높음, 매우 높음의 네 가지 수준에서 구성 가능한 추론 노력을 지원한다. Grok 4.6은 장기 실행 에이전트 및 상호작용, 시각적 작업에 중점을 두고 있으며, 복잡한 작업을 여러 단계에 걸쳐 수행할 수 있도록 설계되었다. 또한, Grok 4.6은 여러 평가 기준에서 높은 성능을 기록하고 있으며, 안전성 측면에서도 개선된 기능을 갖추고 있다.
Grok 4.6은 500K 토큰 컨텍스트 윈도우와 네 가지 수준의 추론 노력을 지원하여 복잡한 작업을 효과적으로 처리할 수 있다.
AI 실패를 설명하는 언어가 이해를 방해한다
a16z의 Steven Sinofsky는 AI 실패를 설명하는 언어가 문제를 이해하기 어렵게 만든다고 주장한다. 그는 '정렬(alignment)', '목표 추구(goal-seeking)', '불법 에이전트(rogue agents)'와 같은 용어가 소프트웨어 엔지니어들이 수십 년간 다뤄온 문제를 인격화한다고 지적한다. Sinofsky는 소프트웨어가 의도한 대로 작동하지 않을 때는 버그가 있다고 간단히 설명하며, AI가 널리 배포됨에 따라 실험실은 이전 세대의 소프트웨어가 개발한 것과 같은 텔레메트리, 디버깅, 사건 보고 및 운영 규율이 필요하다고 강조한다.
NVIDIA, AI 공장을 위한 전력 및 냉각 제품 자격 프로그램 DSX Ready 출시
NVIDIA는 AI 공장에 적합한 전력 및 냉각 제품을 위한 자격 프로그램인 DSX Ready를 출시했다. 이 프로그램은 배터리 에너지 저장 시스템(BESS)과 냉각 분배 장치(CDU) 두 가지 초기 카테고리로 시작되며, 각 카테고리에 맞는 요구 사항을 통해 빌더들이 제품을 평가할 수 있도록 돕는다. DSX Ready는 NVIDIA DSX AI 공장 플랫폼과 연결되어, AI 공장의 설계와 운영을 통합하여 유용한 AI 출력을 증가시키는 데 기여한다.
DSX Ready는 Hitachi Energy, LG Energy Solution, Tesla의 BESS 솔루션과 LG Electronics, LiquidStack, Vertiv의 CDU 솔루션을 포함하여, AI 공장에 필요한 전력 시스템과 액체 냉각 인프라를 통합한 프로그램이다.
BMW 그룹, 14,000개 클라우드 계정의 비용 이상 징후 탐지 시스템 구축
BMW 그룹은 AWS 기반의 내부 FinOps 시스템인 Cloud Efficiency Analytics (CLEA)를 통해 14,000개 클라우드 계정을 모니터링하고 있다. CLEA는 매일 비용 데이터를 분석하고, 예상 패턴에서 벗어난 경우 계정 소유자에게 이메일 알림을 전송한다. 이 시스템은 AWS Cost and Usage Reports에서 매일 청구 데이터를 수집하고, Prophet 라이브러리를 사용하여 비용 예측을 수행한다.
CLEA는 매일 3억 개의 데이터 행을 처리하여 각 계정-서비스 쌍에 대한 예측 및 이상 징후 평가를 수행한다.
Positron이 Amazon SageMaker AI에서 데이터 과학 워크플로우 실행
Positron은 이제 Amazon SageMaker AI에서 실행되며, 데이터 과학 팀은 별도의 도구 없이도 데이터 접근, R 분석, Python 모델 개발, 배포 및 보고를 수행할 수 있다. Positron은 Space 실행 역할 아래에서 Amazon Athena, AWS Glue Data Catalog, Amazon S3에 직접 쿼리할 수 있으며, AI 코딩 보조 도구인 Posit Assistant는 Amazon Bedrock을 모델 제공자로 사용하여 AWS 계정 내에서 AI 도움을 받을 수 있다. 또한, 여러 프로젝트를 독립적으로 진행하거나 공유 Space를 통해 협업할 수 있다.
Positron은 Amazon SageMaker AI에서 데이터 접근을 관리하는 데 있어 사용자 인증 정보를 필요로 하지 않으며, Space 실행 역할을 통해 직접 쿼리할 수 있다.
NVIDIA Halos: 물리적 AI의 안전성을 위한 종합 시스템
물리적 AI는 연구에서 대규모 배치로 빠르게 이동하고 있으며, 2035년까지 4,900만 대의 자율주행차와 6천만 대의 산업 로봇이 배치될 것으로 예상된다. 이러한 기계들이 사람과 공유하는 환경에 진입함에 따라 안전성이 필수적이다. NVIDIA는 AV 안전에서 10년 이상의 개발 경험을 바탕으로 Halos라는 첫 번째 종합 안전 시스템을 구축하여 설계, 검증 및 배치의 모든 단계에서 안전성을 확보하고 있다. Halos는 NVIDIA DRIVE AGX Thor와 IGX Thor와 같은 하드웨어와 Halos OS, Halos Core와 같은 소프트웨어를 포함하여 안전 관련 기능을 지원한다.
NVIDIA Halos는 AV와 로봇의 안전성을 보장하기 위한 종합 시스템으로, 안전성을 설계, 검증 및 배치의 모든 단계에서 관리할 수 있도록 돕는다.
이집트 AI 생태계의 성장과 NVIDIA의 역할
이집트의 AI 개발자들이 그랜드 이집트 박물관에서 모여 AI 생태계의 성장을 강조하는 행사를 개최했다. NVIDIA의 Paolo Guglielmini가 기조연설을 했고, Ahmed Mostafa가 AI 개발 및 배포에 대한 NVIDIA의 전체 스택 접근 방식을 설명했다. 이집트의 NVIDIA Deep Learning Institute 학습자 수는 1년 만에 10배 증가했으며, Hassan Allam Data Centers가 이집트에서 데이터 센터를 건설하고 운영할 수 있는 라이센스를 받았다. 이 프로젝트는 약 4억 달러의 투자로 진행된다.
NVIDIA Deep Learning Institute의 학습자 수가 1년 만에 10배 증가한 것은 이집트의 AI 인재 양성과 생태계 발전에 중요한 이정표가 된다.
RetroChimera: 새로운 레트로합성 예측 모델 발표
Microsoft Research에서 발표한 RetroChimera는 Nature 저널에 게재된 레트로합성 모델로, 희귀 반응 유형을 기억하고 제로샷 전이 및 파인튜닝이 가능하다. RetroChimera는 두 개의 모델을 결합하여 높은 품질의 합성 경로를 자동으로 제안하며, 화학자들이 이전 모델보다 더 선호하는 반응 예측을 제공한다. 이 모델은 신약 개발 및 고급 소재 개발을 가속화할 수 있도록 오픈소스로 제공된다.
NVIDIA Earth-2를 통한 기상 변화에 대한 신속한 의사결정
기상에 민감한 산업들은 변화하는 조건에 대한 더 빠르고 지역적인 관점을 제공하는 관측 데이터에 접근할 수 있게 되었다. 에너지 기업들은 풍력 및 태양광 자산에 대한 측정을 수집하고, 비상 관리 팀은 레이더와 지역 센서에 의존하며, 위성 제공업체는 지구를 지속적으로 관찰한다. 이러한 데이터는 조직들이 다양한 분야에서 물리적 위험을 이해하고 관리하는 데 도움을 준다.
NVIDIA Earth-2는 기상 변화에 대한 신속한 의사결정을 지원하는 데이터 분석 기능을 제공한다.
AI 보안은 엔지니어링 문제 — 에이전트 스택의 모든 계층에서 해결하는 방법
AI 보안은 엔지니어링 문제로, 정의된 보안 요구사항과 시행 가능한 통제가 필요하다. AI 에이전트는 새로운 기능을 제공하지만, 이러한 기능은 기존 보안 원칙을 새로운 운영 조건에 적용해야 한다. 각 에이전트는 추적 가능한 신원과 자격 증명을 가져야 하며, 조직은 에이전트가 접근할 수 있는 정보와 변경할 수 있는 시스템에 대한 명확한 정책을 필요로 한다. NVIDIA OpenShell은 에이전트의 접근을 관리하는 보안 런타임으로, Cisco의 DefenseClaw와 JFrog의 통합이 이루어지고 있다.
NVIDIA OpenShell은 에이전트의 접근을 관리하고 보안을 강화하는 오픈 소스 런타임이다.
AI가 블로그를 장악한 월간 업데이트
블로그 운영자가 주당 7개의 포스트를 게시하고 있지만 여전히 내용을 소화하기 어려운 상황이다. 알리바바는 사용자의 컴퓨터 오디오 시스템을 이용해 장치 지문을 할당하려고 시도하고 있다. TSPI의 여론조사가 전적으로 AI에 의해 생성된 사기로 드러났으며, 이는 범죄로 간주되지 않는 것이 아쉽다는 언급이 있다.
알리바바가 사용자의 컴퓨터 오디오 시스템을 활용해 장치 지문을 할당하려고 시도하고 있다는 점은 데이터 프라이버시와 보안에 대한 우려를 불러일으킨다.
Cloudflare에서 Python Workers 일반 제공 시작
Cloudflare는 Python Workers를 일반 제공(GA)으로 출시했다. 이를 통해 Python은 Cloudflare Developer Platform에서 완전 지원되는 언어가 되었으며, FastAPI, Django, Flask와 같은 인기 Python 프레임워크를 사용할 수 있다. Python Workers는 Cloudflare의 다양한 서비스와 원활하게 연결되며, JavaScript 코드를 작성하지 않고도 Cloudflare 바인딩을 활용할 수 있는 기능이 추가되었다.
Python Workers는 이제 Cloudflare Developer Platform에서 완전 지원되며, FastAPI, Django, Flask와 같은 웹 프레임워크를 사용할 수 있다.
RAND의 미국 AI 전략: 초지능 확보를 위한 자유로운 행동 전략
RAND는 미국의 AI 전략으로 '자유로운 행동(Freedom of Action)' 전략을 제안하며, 이는 미국의 지정학적 이점을 확보하고 인류의 생존을 보장하기 위한 것이다. 이 전략의 네 가지 주요 요소는 인간-AI 생태계 구축, AI 보안 아키텍처 구축, AI 시대에 맞춘 국가 안보 기관 개편, 시민과 기업의 대응 능력 강화이다. 또한, 미국은 AI 개발에 대한 여러 전략을 제시하며, AI 개발의 위험과 이점에 대한 불확실성을 강조하고 있다.
RAND의 전략은 미국이 AI 개발을 위한 투자를 지속해야 한다는 점을 강조하며, 이는 AI 안전성을 확보하는 데 중요한 역할을 할 수 있다.
그라시엘라 고메즈 에르난데스의 국경에서의 죽음과 감시 기술의 한계
2025년 9월 14일, 그라시엘라 고메즈 에르난데스는 티후아나에서 미국으로 넘어가던 중 실종되었고, 2주 후에 발견되었다. 그녀는 국경 근처의 감시 카메라가 있는 지역에서 사망했으며, 이 지역은 General Dynamics의 감시탑이 2019년부터 운영되고 있다. 이 감시탑은 5~7마일 떨어진 대상을 추적할 수 있는 전자광학 및 적외선 카메라를 갖추고 있으며, 최근 몇 년간 AI 기술이 추가되어 국경을 넘는 사람과 동물을 구별할 수 있다. 그러나 이러한 감시에도 불구하고 많은 이민자들이 사망하고 있다.
General Dynamics의 감시탑은 5~7마일 거리의 대상을 추적할 수 있는 기능을 갖추고 있지만, 이민자들이 여전히 사망하는 현상이 발생하고 있다.
미국 국경 감시 시스템의 실패: José Morales Bernal의 사망 사례
2024년 4월 8일, José Morales Bernal이 미국 국경을 넘어갈 때, 그는 세 개의 감시탑 범위 내에 있었고, 이 탑들은 Anduril이 제작한 AI 카메라로 사람을 자동으로 감지하고 추적하도록 설계되었다. 그러나 그가 사망하기까지 국경 순찰대의 대응은 없었고, 결국 지역 쓰레기장 직원들이 그를 발견했다. 조사 결과, 2015년부터 2026년 초까지 1,050명 이상이 국경 감시탑 범위 내에서 사망했으며, 이는 감시 시스템의 반복적인 실패를 나타낸다.
Anduril의 최신 감시탑이 설치된 지역에서도 사망자가 발생하고 있어, 국경 감시 기술의 효과성에 대한 의문이 제기된다.
미국-멕시코 국경의 감시탑 주변 사망 사건 조사 결과
MIT Technology Review는 미국-멕시코 국경의 감시탑 근처에서 발생한 사망 사건에 대한 조사를 발표했다. 이 조사에 따르면, 고급 AI 기술이 적용된 감시탑이 있는 지역에서 발견되지 않은 사람들이 사망한 사례가 있으며, 이들은 몇 주 또는 몇 달 동안 발견되지 않았다. 감시탑의 결함, 알고리즘의 실패, 경고에 대한 무응답 등이 문제로 지적되었다. 국경 보안 강화를 위해 미국 정부는 2034년까지 가상 장벽의 규모를 세 배로 늘리기 위해 10억 달러를 지출할 예정이다.
미국 세관국경보호청(CBP)은 2015년부터 감시탑의 효과성을 감사할 수 있는 능력을 갖추고 있지만, 지금까지 그러한 감사를 수행하지 않았다.
미국과 중국의 오픈 모델 경쟁 현황
오픈 언어 모델은 가중치가 공개된 AI 모델로, 오픈-웨이트 모델과 오픈 소스 모델로 나뉜다. 오픈-웨이트 모델의 예로는 Meta의 Llama, Alibaba의 Qwen, Google의 Gemma가 있으며, 중국 AI 기업들이 2025년 4월부터 오픈-웨이트 모델에서 선두를 차지하고 있다. 2026년 9월 기준으로, 중국의 GLM-5.3과 Kimi K3 모델은 각각 45, 42, 44의 점수를 기록하며 미국 모델보다 높은 성능을 보이고 있다. 반면, 미국의 주요 모델은 26과 23의 점수를 기록하고 있다.
중국의 오픈-웨이트 모델 다운로드 수는 32억 회로, 미국의 16억 회의 두 배에 달한다.
Anthropic의 AI 개발 속도 조절 주장에 대한 비판
Dario Amodei가 작성한 'We Must Pace the Frontier'에서 미국의 AI 개발 속도를 조절해야 한다고 주장하며, 중국의 AI 발전을 저지해야 한다고 강조했다. 그는 미국이 AI 개발을 늦추면 중국이 앞설 것이라고 주장하지만, 중국은 이미 엄격한 AI 규제를 시행하고 있다는 반론이 제기되었다. 또한, Dario는 AI가 5~10년 내에 주요 질병을 치료할 수 있다고 예측했지만, 그의 예측 시점은 계속해서 뒤로 밀리고 있다.
Dario Amodei는 미국의 AI 리더십을 유지하기 위해 AI 개발 속도를 조절해야 한다고 주장하고 있다.
NVIDIA AI를 활용한 청정 에너지 프로젝트 5개 기업
NVIDIA는 뉴욕 기후 주간에 AI를 기반으로 한 청정 에너지 프로젝트를 추진하는 5개 기업을 소개했다. ThinkLabs AI는 NVIDIA CUDA 플랫폼을 사용하여 디지털 트윈을 통해 전력망의 연결 시간을 단축하고, Southern California Edison은 ThinkLabs 소프트웨어를 통해 그리드 연결 신청 평가 시간을 30-45일에서 2분으로 단축했다. Atomic Canyon은 Neutron과 NIVA 플랫폼을 통해 원자력 발전소 운영을 최적화하고, Redwood Materials는 100% 재활용된 전기차 배터리를 활용하여 AI 공장에 대한 오프그리드 전력 솔루션을 제공한다. TerraPower는 Natrium 원자로를 통해 안전하고 지속 가능한 원자력 발전을 목표로 하고 있다.
ThinkLabs는 그리드 연결 신청 평가 시간을 30-45일에서 2분으로 단축하는 소프트웨어를 제공하여 효율성을 높인다.
Anthropic의 안전 철학과 모델 통합의 중요성
AI 커뮤니티 내에서 도산 시나리오에 대한 철학적 논의가 진행되고 있으며, 이는 안전주의가 혁신을 저해할 수 있다는 주장과 관련이 있다. Anthropic의 CEO Dario Amodei는 'Pacing the Frontier'라는 개념을 통해 안전에 대한 우려를 표명하고 있지만, 이는 또한 모델 개선 속도와 관련된 문제를 다룬다. Opus 4.5의 출시 이후, 모델과 하네스의 통합이 AI 산업의 미래 구조와 수익 흐름에 중요한 역할을 할 것이라는 분석이 있다. 따라서 Anthropic과 OpenAI는 통합을 통해 더 높은 수익을 올릴 가능성이 있다.
모델과 하네스의 통합이 AI 산업의 수익 구조에 영향을 미치며, Anthropic과 OpenAI가 더 높은 수익을 올릴 가능성이 있다.
Solid: 자체 컴퓨터, 계정 및 예산을 가진 에이전트
Solid는 자체 컴퓨터, 계정 및 예산을 가진 에이전트를 제공하는 플랫폼이다.