AI 뉴스

Anthropic, 생물학적 무기 연구에 대한 기술 악용 사례 보고

Anthropic은 올해 생물학적 무기 개발에 도움이 될 수 있는 연구를 위해 자사의 기술을 사용하려는 과학자들의 여러 시도를 차단했다고 밝혔다. 이들은 통제를 우회하고 연구 목적을 숨기려는 노력을 했으며, 일부 사용자는 러시아, 중국, 이란 등 접근이 금지된 국가에 속해 있었다. Anthropic은 이러한 사례를 공유함으로써 AI 산업과 정부 간의 대화를 촉발하고자 한다고 전했다.

Anthropic은 자사의 모델이 악용될 수 있는 사례를 통해 생물학적 위험에 대한 논의를 촉진하고자 한다.

오픈 모델에 대한 최신 읽기 목록

이 목록은 오픈 모델에 관한 최근 몇 년간의 주요 글들을 정리한 것으로, 2026년 9월 11일에 업데이트되었다. 오픈 모델의 정의, 비즈니스 전략과의 관계, 리스크 등을 다루며, 마크 저커버그는 Llama 3의 출시 이유를 설명하였다. 또한, 오픈 모델이 기업의 맞춤형 워크플로우 생성에 어떻게 기여할 것인지에 대한 논의와, 오픈 모델이 성능 면에서 닫힌 모델에 뒤처질 것이라는 전망이 포함되어 있다.

오픈 모델은 기업의 맞춤형 워크플로우를 생성하는 데 중요한 역할을 할 것이다.

로봇 공학의 ChatGPT 순간을 기다리며

로봇이 주방에서 저녁 후 정리를 도와주기 위해서는 잔여 음식과 쓰레기를 구분하고, 접시의 위치를 파악하며, 서랍이 닫히지 않는 이유를 이해해야 한다. 이러한 작업은 대화와 예시를 통해 로봇에게 새로운 작업을 부여할 수 있는 가능성을 보여준다. 일반화된 로봇 모델들이 이러한 전망을 더욱 신뢰할 수 있게 만들고 있으며, 남은 과제는 학습, 제어 및 새로운 환경에서 기계가 작동하도록 하는 경제성이다. 로봇 공학은 다재다능함을 보여줄 필요가 있다.

a16z AI Policy Brief에서 스타트업의 초기 단계 탐구

a16z의 Matt Perault가 General Partner이자 Speedrun 리드인 Andrew Chen과 함께 스타트업의 초기 단계에서 'Little Tech'가 어떻게 나타나는지를 논의한다. Andrew는 창업자들이 종종 작은 팀으로 주방 테이블에서 회사를 시작하고, 몇 개월 안에 아이디어가 실행 가능한 비즈니스가 될 수 있는지를 판단해야 한다고 설명한다. 그는 이러한 창업자들이 정책 입안자와 소통할 시간이나 자원이 부족하다고 언급하며, 규제가 스타트업의 성장에 미치는 영향에 대해 논의한다.

Speedrun은 창업자들이 초기 단계에서 자원을 효율적으로 활용하고 정책의 영향을 이해하는 데 도움을 줄 수 있다.

OpenAI와 Anthropic의 기업 AI 시장 점유율 변화

2026년 8월, Anthropic은 미국 기업의 43.8%가 구독 또는 토큰을 구매하여 비즈니스 AI 채택에서 선두를 유지하고 있으며, 이는 전월 대비 0.34%p 증가한 수치이다. 반면 OpenAI는 39.8%로, 0.09%p 상승에 그쳤다. 또한, Ramp의 지수에 따르면 토큰 가격이 41% 하락하여 현재 1백만 토큰당 $0.68이다. OpenAI는 특정 훈련을 중단하고 정렬 및 모니터링에 대한 연구 인력을 재배치하고 있으며, 이는 GPT-6 Astra의 정렬 문제와 관련이 있다.

Anthropic의 비즈니스 AI 채택률이 43.8%로 증가하면서 OpenAI의 시장 점유율 감소가 나타나고 있다.

AI가 생물학 연구에 미치는 위험과 Anthropic의 경고

최근 Anthropic은 자사의 모델이 생물학 무기 개발에 사용될 수 있는 다섯 가지 잠재적 사례를 차단했다고 밝혔다. 이 보고서는 AI가 생물학적 연구에 미치는 위험과, 특히 AI 설계 바이러스와 같은 신흥 위험에 대한 우려를 강조하고 있다. 연구자들은 Claude 모델을 사용하여 위험한 바이러스에 대한 기능 증강 연구를 시도했으며, AI 모델의 사용이 생물학적 무기를 개발하는 데 기여할 수 있다는 경고가 제기되었다. AI 모델은 바이러스의 DNA를 포함하는 새로운 껍질을 설계하고, 병원체의 진화를 예측하며, 안전 검사를 회피할 수 있는 핵산 서열을 생성하는 등의 기능을 가지고 있다.

Anthropic의 모델은 생물학적 연구 쿼리에 대한 접근을 제한하는 안전 장치를 갖추고 있다.

Oracle, AI로 SaaS 비즈니스 강화 계획 발표

Oracle의 공동 CEO Mike Sicilia는 AI가 패키지 애플리케이션의 대체가 아닌 가속기 역할을 할 것이라고 주장했다. 그는 AI가 조직의 기존 워크플로우와 비즈니스 규칙을 활용하여 직원들이 프로세스를 정확히 따르지 않아도 되도록 변화시킬 것이라고 설명했다. 또한, Oracle은 10월에 '에이전틱 AI 가속기'를 출시할 예정이며, 이를 통해 SaaS 배포 기간을 단축할 계획이다. Oracle의 클라우드 비즈니스는 전년 대비 60% 성장하여 116억 달러의 수익을 기록했다.

Oracle은 10월에 출시할 '에이전틱 AI 가속기'를 통해 SaaS 배포 기간을 수년에서 수개월로 단축할 계획이다.

비디오 자막 품질 평가를 위한 새로운 접근법

비디오 자막 품질 평가가 Visual Large Language Models (VLLMs)에서 중요한 도전 과제로 남아 있다. 기존의 평가 지표는 생성된 텍스트와 실제 참조를 비교하는 방식에 의존하며, 이는 비디오 설명의 '일대다' 특성으로 인해 고품질 자막이 어휘 불일치나 시각적 초점의 유효한 변화로 인해 불이익을 받을 수 있다. 또한, 이러한 평가 방식은 일반적으로 단일 차원적이며 자막 품질에 대한 세밀한 분석을 제공하지 못한다. 이를 해결하기 위해 자막 품질을 정보 충실도로 재정의하고, 자막이 최대한의 범위를 포괄해야 한다고 제안한다.

DiscoSign: 담화 인식 기반 텍스트-수화 번역 시스템

DiscoSign은 수화 이해에 필수적인 담화 현상을 고려한 텍스트에서 수화 글로스 번역을 위한 계산적 접근 방식을 제시한다. 이 시스템은 모듈형 대형 언어 모델(LLM) 기반 번역 프레임워크를 통해 세 가지 주요 현상인 공간 지시어 해석, 질문-답변 절(Question-Answer Clauses), 그리고 기타 담화 관련 구조를 처리한다.

DiscoSign은 담화 인식 기능을 통해 수화 번역의 정확성을 높일 수 있다.

Amazon SageMaker Inference의 접두사 인식 라우팅 도입

Amazon SageMaker Inference는 요청의 시작 부분을 분석하여 동일한 접두사를 가진 요청을 같은 인스턴스로 라우팅하는 접두사 인식 라우팅 기능을 도입했다. 이 기능은 Llama 3.1 70B 모델을 사용한 벤치마크에서 P50 첫 토큰 시간(TTFT)을 최대 77% 단축하고, 처리량을 최대 16% 증가시켰으며, KV 캐시 적중률을 약 25%에서 80% 이상으로 향상시켰다. 또한, 요청이 인스턴스에 균등하게 분산되지 않도록 하여 캐시의 효율성을 높인다.

접두사 인식 라우팅은 동일한 요청 패턴에 대해 KV 캐시를 재사용하여 처리 성능을 크게 향상시킬 수 있다.

Amazon SageMaker HyperPod의 모델 캐싱으로 추론 대기 시간 단축

Amazon SageMaker HyperPod에서 대형 언어 모델을 배포할 때, 요청한 포드가 준비되기까지의 시간은 주로 두 가지 다운로드 과정에 의해 지연된다. 모델 캐싱 기능이 도입되어 모델 가중치와 컨테이너 이미지를 미리 클러스터 노드에 로드함으로써, 포드 시작 시 로컬 NVMe 저장소에서 약 7 GB/s 속도로 데이터를 읽을 수 있게 되어, 포드가 트래픽을 서비스하는 데 걸리는 시간이 몇 분으로 단축된다.

모델 캐싱을 활성화하면 포드가 수 초 내에 트래픽을 서비스할 수 있어, 대형 모델의 경우 30분 이상 소요되던 대기 시간을 크게 줄일 수 있다.

GitHub Copilot 앱에서 코드 변경 사항 검토 및 실행 방법

GitHub Copilot 앱에서는 코드 변경 사항을 검토하고 실행하며 결과를 확인할 수 있는 세 가지 패널을 제공합니다. diff 패널을 통해 추가, 삭제, 변경된 라인을 확인하고, 터미널 패널에서 명령어를 실행할 수 있습니다. 브라우저 패널에서는 사용자 인터페이스를 테스트하고 Pick & Polish 도구를 사용해 요소를 조정할 수 있습니다. 이러한 기능을 통해 코드 검토, 실행, 미리보기를 한 곳에서 수행할 수 있어 작업 효율성이 향상됩니다.

GitHub Copilot 앱의 세 가지 패널을 통해 코드 변경 사항을 쉽게 검토하고 실행할 수 있어 개발자의 작업 흐름이 개선된다.

Slack에서 대화 중 인터랙티브 차트 및 보고서 생성 가능

Slack의 새로운 기능인 Slackforce Surfaces를 통해 사용자는 대화 중에 인터랙티브 보고서, 설문조사, 대시보드 등을 직접 만들 수 있다. 사용자가 Slackbot에게 필요한 내용을 설명하면, Slackbot이 관련 대화와 연결된 앱(예: Google Drive, Salesforce)에서 정보를 수집하여 이를 생성한다. 생성된 Surface는 동료들과 공유하고 채널에 고정할 수 있어 다른 사람들이 이를 보고, 상호작용하며 댓글을 남길 수 있다.

Slackforce Surfaces는 사용자가 Slackbot에게 요청하여 필요한 도구를 생성할 수 있도록 하여 협업의 효율성을 높인다.

Amazon Bedrock Knowledge Base에서 TwelveLabs Marengo Embed 3.0 사용 가능

TwelveLabs Marengo Embed 3.0이 Amazon Bedrock Knowledge Bases에서 사용할 수 있게 되었다. 이 모델은 비디오, 오디오, 이미지, 텍스트를 512차원 벡터 공간으로 인코딩하며, 자연어 검색을 통해 비디오 및 이미지 콘텐츠를 관리할 수 있는 기능을 제공한다. Amazon Bedrock은 비디오 파일(MP4, MOV), 이미지(JPEG, PNG), 오디오 트랙을 지원하며, Amazon S3와의 네이티브 연결 기능을 갖추고 있다.

Marengo Embed 3.0을 통해 비디오, 오디오, 이미지 콘텐츠에 대한 자연어 검색이 가능해진다.

Astra와 Fable의 로켓 게임 비교 실험 결과

Fireship 영상이 9월 9일 공개되었으며, AI가 만든 로켓 게임 Astra와 Fable 5.1을 비교한 결과 첫인상이 좋은 게임과 지속적으로 재미있게 플레이할 수 있는 게임의 차이를 보여주었다. 아이들의 선택도 달랐고, 그래픽, 재미, 실제 사용 목적에 대한 평가가 필요하다는 점을 강조하고 있다.

Astra와 Fable 5.1의 비교 결과는 AI가 생성한 콘텐츠의 질이 사용자 경험에 미치는 영향을 보여준다.

중국 AI 능력 및 제약에 대한 평가와 미국-중국 AI 협력 방안

Nathan은 중국 AI 능력과 제약을 평가하고, 미국-중국 양자 AI 대화를 앞두고 협력적 Pax Robotica를 위한 실행 가능한 프레임워크를 제시한다. 그는 공동 컴퓨팅 이니셔티브, 안전 감사 기준, 자율 무기 협약을 주장하며, 적대적인 제로섬 경쟁이 인류의 공동 이익을 위한 최전선 AI 시스템 훈련을 위험에 빠뜨릴 수 있다고 경고한다.

자율 무기 협약은 AI 기술의 안전한 발전을 위한 중요한 기준이 될 수 있다.

Spirit Airlines 파산 절차 중 구글에 데이터 판매

Doug Kreuzkamp는 구글이 Spirit Airlines의 파산 절차의 일환으로 대량의 운영 데이터를 구매하는 경매에서 승리했다는 소식에 충격을 받았다. Kreuzkamp는 2011년에 설립된 스타트업 Springshot의 창립자로, 이 플랫폼은 항공사 효율성을 개선하고 물류 문제를 신속하게 해결하는 데 도움을 준다. Springshot은 지난 3년 동안 Spirit의 기술 스택을 지원했으나, Spirit이 경매에 부친 데이터셋에는 Springshot이 소유한 상당량의 데이터와 지적 재산(IP)이 포함되어 있을 가능성이 있다고 Kreuzkamp는 주장했다.

Springshot은 항공사 효율성을 개선하는 플랫폼으로, Spirit의 기술 스택을 지원해왔다.

Azure AI Speech LLM 2607: 다국어 인식 개선 및 사용자 정의 용이성 향상

Azure AI Speech의 최신 모델 업데이트인 LLM Speech 2607은 다국어 인식 및 혼합 언어 오디오 입력에서 개선된 성능을 제공하며, 구문 목록 기능의 사용자 경험을 향상시킵니다. 이 모델은 Tier 1 및 Tier 2 언어에서 품질 향상을 이루었고, 혼합 언어 오디오 인식, Tier 2 및 Tier 3 언어의 정확도 개선, 도메인 인식 기능이 강화되었습니다. 또한, 구문 목록 기능을 통해 2,000개 이상의 엔티티를 포함할 수 있어 사용자 정의가 간편해졌습니다.

LLM Speech 2607은 혼합 언어 오디오 인식에서 개선된 성능을 제공하여 다국적 환경에서의 음성 인식 품질을 높입니다.

Nemotron 3 Ultra에서 2.5배 더 많은 사용자 지원을 위한 풀스택 NIM 최적화

대형 언어 모델을 배포하는 것은 생산 준비 완료의 첫 단계일 뿐이다. 생산 팀은 가능한 많은 동시 사용자를 지원해야 하며, 이를 위해 GPU 인프라를 활용하면서도 응용 프로그램의 반응성을 유지해야 한다. 이러한 균형은 긴 프롬프트와 단계 간 재사용되는 맥락이 있는 에이전틱 AI 작업에 더욱 중요하다.

Nemotron 3 Ultra는 GPU 인프라를 활용하여 동시 사용자 수를 극대화하는 데 중점을 두고 있다.

Skild AI, NVIDIA Physical AI 활용해 로봇에 단일 비디오로 새로운 작업 학습

Skild AI의 S1 로봇 모델은 단일 비디오 시연을 통해 이전에 보지 못한 장기 작업을 학습할 수 있도록 설계되었다. 이 모델은 비디오를 입력으로 사용하여 가중치 업데이트 없이 작업을 이해하고 실행하며, 10분까지 지속되는 낯선 작업을 수행할 수 있다. Skild는 NVIDIA AI 인프라를 활용하여 S1 모델을 개발하였으며, 이 모델은 새로운 작업을 직접 시연함으로써 재훈련 없이도 로봇에게 작업을 학습시킬 수 있다.

S1 모델은 단일 비디오 예시로 약 380개의 실습 훈련 예시와 같은 효과를 낸다.

NVIDIA 기술을 활용한 로봇 택시 시장의 발전

로봇 택시 시장은 2035년까지 4,000억 달러에 이를 것으로 예상되며, 600만 대 이상의 상업용 차량이 운행될 예정이다. NVIDIA는 AI 모델 준비 및 훈련, 주행 행동 시뮬레이션 및 검증, 차량 내 실시간 처리 등을 위한 오픈 플랫폼을 제공한다. NVIDIA의 로봇 택시 기술 스택은 모델 훈련, 시뮬레이션 및 검증, 차량 내 컴퓨팅을 포함한 세 가지 컴퓨터 솔루션으로 구성된다. NVIDIA DRIVE Hyperion은 레벨 4 준비가 완료된 로봇 택시를 위한 모듈형 차량 내 컴퓨팅 및 센서 아키텍처를 제공한다.

NVIDIA의 로봇 택시 기술 스택은 AI 모델 훈련과 안전 검증을 지원하여 상업적 규모의 자율주행 차량 개발을 가속화한다.

AI 안전성 논란과 Jacob Coxon의 사임

AI의 힘이 커짐에 따라 AI 안전성을 진지하게 고려하는 그룹이 증가하고 있으며, Jacob Coxon이 안전 위험을 이유로 사임한 사건이 큰 반향을 일으켰다. 그의 사임은 AI의 존재적 위험, 대량 멸종 가능성 등에 대한 논의를 촉발했으며, 이러한 주제는 AI 커뮤니티 외부에서도 관심을 끌고 있다. Evan Hubinger의 >10% 멸종 위험 수치와 같은 주장이 논의되고 있으며, AI로 인한 재난 가능성에 대한 논의가 필요하다는 의견이 제기되고 있다.

Jacob Coxon의 사임은 AI 안전성에 대한 논의의 중요성을 부각시키고 있으며, AI로 인한 재난 가능성에 대한 경각심을 일깨우고 있다.

AI의 위험성에 대한 논의와 Anthropic의 Jacob Coxon 사임

AI에 대한 우려가 커지고 있으며, Jacob Coxon이 Anthropic에서 사임하면서 이 문제에 대한 경고가 더욱 주목받고 있다. 최근에는 상원 의원 Bernie Sanders와 하원 의원 Greg Casar가 초지능에 대한 전면 금지 법안을 제안했다. OpenAI의 GPT-6 Astra와 Anthropic의 Claude Fable 5.1 모델이 모두 높은 성능을 보이고 있으며, Astra는 이전 모델보다 더 많은 기능을 갖추고 있다. 그러나 Jakub Pachocki는 AI의 능력이 빠르게 발전하고 있지만, 정렬(alignment)과 모니터링(monitorability)이 그 속도를 따라가지 못하고 있다고 경고했다.

OpenAI의 GPT-6 Astra는 이전 모델보다 더 큰 개선을 이루었지만, 모니터링 가능성이 감소하고 있다는 점에서 주의가 필요하다.

NVIDIA BioNeMo Inference Runtime를 활용한 생체분자 구조 예측

NVIDIA BioNeMo Inference Runtime(BioIR)은 생체분자 구조 예측 모델을 NVIDIA GPU에서 가속화하며, PyTorch 워크플로우를 유지한다. 이 시스템은 최적화된 커널과 CUDA Graphs를 사용하여 모델의 속도를 높인다.

NVIDIA BioNeMo Inference Runtime은 생체분자 구조 예측을 효율적으로 처리할 수 있도록 돕는다.