AI 뉴스

WeatherNext AI 모델이 허리케인 멜리사 예측에 기여

WeatherNext AI 모델이 허리케인 멜리사의 역사적인 자메이카 상륙 예측에 도움을 주어, 기상 예보관들이 지역 사회에 사전 준비 시간을 제공할 수 있도록 했다.

AI 시스템의 위임 작업에서의 신뢰성 연구 결과

Microsoft의 연구 논문 "LLMs Corrupt Your Documents When You Delegate"는 위임된 작업에서 AI 시스템의 신뢰성에 대한 논의를 촉발했다. 연구는 장기 위임 및 협업 작업을 위한 강력한 평가 방법 개발을 목표로 하며, 정보가 어떻게 보존되는지를 평가한다. 연구 결과에 따르면, 현재의 최첨단 모델은 20번의 위임 반복에서 약 19-34%의 아티팩트 충실도 저하를 보였으며, Python 워크플로우는 평균 1% 미만의 저하를 나타냈다. 이 연구는 위임 패턴을 진단하는 도구로 설계되었으며, AI 시스템의 신뢰성을 높이기 위한 추가 연구와 엔지니어링이 필요함을 강조한다.

Eric Jang, AlphaGo를 현대 AI 도구로 구축하는 방법 설명

Eric Jang은 AlphaGo를 현대 AI 도구를 사용하여 처음부터 만드는 방법을 설명했다. AlphaGo는 지능의 기본 요소인 탐색, 경험 학습, 자가 대국의 예시로 여전히 유효하다. 그는 AlphaGo의 MCTS가 매번 더 나은 행동을 제안하여 훈련 목표를 제공하는 반면, 일반적인 강화 학습은 100,000개 이상의 토큰 중 어떤 것이 정답을 가져왔는지 파악해야 한다고 언급했다. 또한, LLM이 자동화할 수 있는 AI 연구의 일부와 여전히 어려움을 겪는 부분에 대해 논의했다.

온타리오 의료 AI 시스템, 기본 사실 누락 및 잘못된 정보 삽입

온타리오 감사청의 보고서에 따르면, 20개 승인된 AI 시스템이 중요한 세부사항을 놓치고 잘못된 정보를 삽입하며 환자나 임상의가 언급하지 않은 내용을 생성하는 것으로 나타났다. 특히 AI Scribe 프로그램에 대한 평가에서, 20개 시스템 중 9개가 환자 치료 계획에 대해 논의되지 않은 정보를 제안했고, 12개 시스템은 환자 노트에 잘못된 약물 정보를 삽입했다. 또한 17개 시스템은 환자의 정신 건강 문제에 대한 주요 세부사항을 놓쳤다. 평가 기준에서 정확성 관련 항목의 비중이 낮아 부정확한 기록을 생성할 수 있는 공급업체가 선택될 가능성이 지적되었다.

AI 의료 기록 시스템의 정확성 평가 기준이 낮으면, 한국에서도 비슷한 문제가 발생할 수 있어 개발자들이 시스템 설계 시 신중해야 한다.

중단·재개가 기본값이 되다: 내구성 실행이 에이전트 운영을 바꾸는 방식

에이전트가 몇 분이 아니라 몇 시간씩 도는 워크로드가 늘면서, 하니스가 'crash하면 처음부터'를 버리고 워크플로 엔진의 내구성 실행(durable execution)을 흡수하고 있다. 각 도구 호출·LLM 호출을 단계로 기록해 두고, 프로세스가 죽거나 배포로 재시작돼도 마지막 성공 지점부터 이어 가는 방식이다. Cloudflare Agents SDK와 Workflows, Temporal류가 이 패턴을 에이전트 루프에 직접 끌어왔다. 실무에서 바뀌는 건 두 가지다. 첫째, LLM 호출을 멱등하게 만들고 부수효과(결제·메일)를 한 번만 실행되도록 단계 경계를 잡아야 한다. 둘째, 재개 시점에 컨텍스트를 어디서 복원할지가 중단/재개의 진짜 난제다. 단계 로그만 있고 모델 컨텍스트 스냅샷이 없으면 재개해도 에이전트가 길을 잃는다. 관측성도 요청 단위 로그에서 단계별 타임라인으로 옮겨 가야 디버깅이 된다.

중국의 오픈 모델 생태계와 R&D 비용 구조

중국의 오픈 모델 생태계에서는 R&D 비용이 최종 모델 훈련 비용보다 약 80%를 차지하며, 이는 실험실들이 더 오랜 기간 동안 연구를 지속할 수 있는 비용 구조의 이점을 제공한다. 오픈 소스 AI의 경우, 모델 개발자에게 거의 모든 비용이 집중되며, 오픈 모델을 사용하는 것이 최소한의 내부 개발로 AI를 사용하는 경우 더 비쌀 수 있다. 또한, 중국의 연구소들은 기술 보고서와 지식 공유를 통해 동료 기업들이 자원을 덜 투자하도록 리스크를 줄이고 있다.

Co-Scientist: 연구 가속화를 위한 협업 AI 파트너

Google DeepMind에서 Gemini를 기반으로 구축한 Co-Scientist는 연구자들이 과학적 혁신을 가속화할 수 있도록 돕는 협업 AI 파트너이다.

CI에 LLM regression 게이트 거는 법, 비결정성을 통계로 길들이기

프롬프트·모델·툴 정의를 바꿀 때마다 품질이 조용히 떨어지는 걸 막으려고, eval을 CI 게이트로 넣는 패턴이 자리잡고 있다. 어려운 점은 LLM 출력이 비결정적이라 단일 실행 통과/실패가 흔들린다는 것이다. 그래서 게이트는 단일 점수가 아니라 골든셋 N회 반복의 평균과 분산, 그리고 기준선 대비 차이의 신뢰구간으로 건다. promptfoo·OpenAI Evals·braintrust 같은 하니스가 PR마다 케이스를 돌리고, 핵심은 절대 임계값보다 baseline 대비 회귀 폭으로 막는 것이다. temperature를 0으로 낮춰도 완전 재현은 안 되니, flaky 케이스는 격리하고 'p95가 기준 이하로 떨어지면 차단' 식의 비대칭 게이트를 쓴다. LLM-judge를 채점기로 쓸 땐 judge 버전을 함께 고정해야 judge 자체의 드리프트가 회귀로 오인되지 않는다.

실무에선 프롬프트 한 줄 수정이 특정 케이스를 깨도 배포 전까지 모른다. 골든셋 eval을 PR CI에 붙이고 baseline 대비 회귀 폭으로 머지를 막으면 이 사각지대가 사라진다.

바이브 코딩 프로덕션 앱 65%에 보안 결함, 거버넌스 없이는 위험

에이전트로 빠르게 찍어낸 코드가 프로덕션에 쌓이면서 보안 청구서가 도착하고 있다. Escape.tech가 1,400여 개 애플리케이션을 스캔한 결과 바이브 코딩 프로덕션 앱의 65%에 보안 이슈가 있었고 58%에 최소 한 건의 치명적 취약점이 있었다. 별도 5,600개 공개 배포 앱 스캔에서는 2,000건의 고위험 취약점, API 키·액세스 토큰 등 노출 시크릿 400건, 의료기록·결제정보를 포함한 PII 175건이 발견됐다. 거버넌스 통제가 없을 경우 취약점 발생률이 사람이 쓴 코드의 2.74배에 달했다. AI 보조 커밋의 시크릿 노출률은 3.2%로 사람 커밋의 1.5%보다 높고, 하드코딩 자격증명·약한 인증·입력 검증 부재·XSS·SQL 인젝션, 그리고 공격자가 AI가 추천한 가짜 패키지를 미리 등록해두는 '패키지 환각' 공격이 대표 패턴이다. Georgia Tech의 Vibe Security Radar는 관련 CVE가 1월 6건에서 3월 35건으로 급증했다고 집계했다. 결론은 명확하다 — 바이브 코딩은 보안 스캔·코드 이해·컴플라이언스 통제·도구 통합을 묶은 거버넌스 레이어가 있을 때만 엔터프라이즈에 안전하다.

속도의 이면에 누적되는 부채가 수치로 드러난 시점이다. 시크릿 노출·패키지 환각은 한국의 작은 팀에서도 그대로 재현되는 패턴이라, 에이전트 출력에 대한 시크릿 스캐닝과 의존성 출처 검증을 파이프라인에 기본 탑재해야 한다. 'AI가 짠 코드는 사람 코드보다 2.74배 취약'이라는 숫자는, 리뷰 없는 자동 머지를 정책으로 막아야 할 근거가 된다.

AI 규제를 위한 Radical Optionality 접근법 제안

Institute for Law & AI의 연구자들은 정부가 강력한 AI가 세계를 대규모로 혼란에 빠뜨릴 경우를 대비해 필요한 도구를 미리 갖추는 'Radical Optionality' 접근법을 제안했다. 이들은 정부가 AI 개발의 막대한 이해관계에 따라 유연성을 유지할 수 있도록 정보 수집 권한, 내부 고발자 보호, 정부 간 정보 공유, 유연한 규칙 및 정의, AI 시스템의 평가 능력 개발, 모델 가중치 및 알고리즘 비밀 보안 강화, 기술 인재 투자 등을 권장하고 있다.

ChinAI 25회차: 중국 AI 생태계 최신 동향

ChinAI의 25번째 에피소드에서는 중국 AI 스타트업 ModelBest에 대한 심층 분석, ByteDance의 AI 슈퍼앱 Doubao의 유료 구독 도입, 젊은 AI 전문가들이 전 직장으로부터 법적 청구를 받는 사례, CAICT의 AI 안전 벤치마크 결과 발표, AI로 생성된 PPT의 수요에 대한 논의, 그리고 우한의 AI 에이전트 채택 촉진 이니셔티브 등을 다루고 있다.

상호작용 모델: 인간-AI 협업을 위한 확장 가능한 접근법

상호작용 모델의 연구 미리보기가 발표되었다. 이 모델은 외부 구조물 없이 상호작용을 원활하게 처리하며, 오디오, 비디오, 텍스트를 실시간으로 수집하고 반응할 수 있다. 다중 스트림, 마이크로 턴 설계를 통해 실시간 반응성을 보장하며, 새로운 상호작용 능력과 지능 및 반응성에서 최첨단 성능을 보여준다.

이 모델은 AI와의 협업을 보다 자연스럽고 효율적으로 만들어, 개발자들이 AI를 활용하는 방식에 변화를 줄 수 있다.

David Reich, 청동기 시대의 자연 선택 강화 주장

David Reich와 Ali Akbari는 농업 혁명 이후 자연 선택이 잠잠하다는 기존의 합의를 뒤엎는 논문을 발표했다. 고대 DNA 시퀀싱을 확장하고 새로운 통계 방법을 개발하여, 자연 선택이 실제로 가속화되었음을 발견했다. 특히 청동기 시대(약 3,000년 전) 동안 면역 기능, 체지방, 지능 등 유전자 빈도가 가장 큰 변화를 보였다. 지난 10,000년 동안 선택은 인지 성능의 유전적 예측치를 약 1 표준 편차 상승시켰으며, 그 대부분은 4,000년에서 2,000년 사이에 발생했다. 또한, 네안데르탈인에 대한 새로운 모델을 제시하며, 그들이 현대 인류의 유전적 혼합체라는 주장을 했다.

이 연구는 고대 DNA 분석과 통계 방법론의 발전이 인류 진화에 대한 이해를 재정립할 수 있음을 보여준다.

FFmpeg와 VLC 개발자 인터뷰

Jean-Baptiste Kempf는 VLC의 수석 개발자이자 VideoLAN의 회장이다. Kieran Kunhya는 FFmpeg의 오랜 기여자로, 코덱 엔지니어이며 X에서 유명한 FFmpeg 계정의 운영자이다. 이 팟캐스트에서는 FFmpeg의 역사, 비디오 재생 방식, 비디오 코덱 및 컨테이너에 대한 설명이 포함되어 있다.

컨텍스트 로트(Context Rot): 긴 컨텍스트는 '더 넣으면 더 좋다'가 아니다

Chroma 연구진(2025-07)이 18개 모델(Claude/GPT/Gemini/Qwen)을 측정해 보인 핵심은, LLM이 컨텍스트를 균일하게 처리한다는 통념이 틀렸다는 것이다. 입력 길이가 늘면 단순 과제에서도 성능이 의미 있게 떨어진다(컨텍스트 로트). 발견: ①질문-정답의 의미 유사도가 낮을수록 길이가 길어질 때 더 빨리 무너진다 ②distractor(방해 문장)는 하나만 있어도 성능을 깎고, 4개면 가중된다(이때 Claude가 환각률 최저, GPT가 최고) ③반직관적으로 구조가 잘 잡힌 haystack보다 섞인(shuffled) haystack에서 더 잘 찾는다 — 구조적 패턴이 어텐션을 교란한다는 뜻. 원인 중 하나로 대부분 모델이 쓰는 RoPE 위치 인코딩의 감쇠 효과가 지목된다. 그래서 부상한 분야가 '컨텍스트 엔지니어링': 전부 욱여넣지 말고 매 스텝 필요한 정보만 동적으로 조립하는 설계다. 대표 기법이 컨텍스트 컴팩션(한도 근처에서 내용을 요약→새 윈도우 재시작)과 검색 기반 선별 주입이며, 엔터프라이즈 AI의 70% 이상이 장기 세션 에이전트라는 점에서 필수가 됐다.

'컨텍스트 윈도우가 200K니까 다 넣자'는 접근이 오히려 정확도를 떨어뜨린다는 실측 증거다. RAG는 토큰 한도 절약 기술이 아니라 컨텍스트 로트를 막는 정확도 기술로 재정의된다 — distractor를 걸러내고 관련 청크만 주입하는 검색·리랭킹이 '긴 컨텍스트 모델이 나오면 RAG는 죽는다'는 주장의 반례가 된 셈이다. 에이전트를 만든다면 윈도우를 채우기 전에 컴팩션·요약·선별 주입 루프를 먼저 설계해야 한다.

Anthropic, 멀티 에이전트 오케스트레이션 공개 베타에 Agent SDK 크레딧 분리

Anthropic이 Claude Managed Agents에 멀티 에이전트 오케스트레이션을 추가했다. 리드 에이전트가 작업을 쪼개 각 조각을 전담 서브에이전트에게 위임하고, 서브에이전트들은 각자 모델·프롬프트·도구를 갖고 공유 파일시스템 위에서 병렬로 일한다. 리드는 작업 중간에 진척을 점검할 수 있고, 전 과정이 Claude Console에서 감사 가능하다 — 어떤 서브에이전트가 무엇을 어떤 순서로 했는지, 작업 결정의 근거까지 들여다본다. 한편 2026-06-15부터 구독 플랜에서 Claude Agent SDK 사용량이 대화형 한도와 분리된 별도 월간 'Agent SDK 크레딧'에서 빠진다(Pro $20·Max 5x $100·Max 20x $200). Agent SDK는 Claude Code를 떠받치는 동일 하니스 위에 서브에이전트·세션·MCP 지원을 묶은 라이브러리로, Python·TypeScript로 제공된다.

에이전트를 직접 오케스트레이션하던 코드를 관리형으로 옮길 선택지가 생겼고, 분리 크레딧 때문에 SDK 기반 자동화의 비용 계획을 새로 세워야 한다.

OpenAI, 올해 컴퓨팅 비용으로 500억 달러 소모 예상

OpenAI의 공동 창립자이자 사장인 Greg Brockman은 법정 증언에서 올해 컴퓨팅 파워에 500억 달러를 소모할 것으로 예상한다고 밝혔다. 이 금액은 다른 투자자들의 자금으로 이루어질 예정이다. OpenAI는 수익을 내는 방법을 아직 찾지 못했으며, 최근 보고서에 따르면 수익 목표조차 달성하지 못하고 있다. Amazon, Nvidia, SoftBank 등은 OpenAI에 대한 투자를 발표했지만, 이들 투자는 OpenAI가 특정 조건을 충족해야만 이루어지는 것으로 알려졌다.

Elon Musk와 Sam Altman의 재판 진행 상황

Elon Musk와 Sam Altman 간의 재판이 YouTube에서 진행되고 있으며, Musk는 재판 시작 이틀 전에 OpenAI의 Brockman에게 합의에 대해 메시지를 보냈다. Musk는 xAI가 OpenAI의 모델을 사용하여 자신의 모델을 훈련시켰다고 인정한 것으로 보인다.

OpenAI의 모델 사용에 대한 법적 쟁점은 AI 모델 개발 및 활용에 있어 법적 기준을 설정할 수 있다.

중국 대학의 AI 감시 시스템 도입 현황

2024년 3월부터 중국 북동부의 한 2급 대학에서 AI 감시 시스템이 도입되었으며, 90% 이상의 교실에 설치됐다. 이 시스템은 학생의 주의 집중도를 나타내는 '머리 들기 비율', 교사와의 상호작용 패턴, 학생의 표정 등을 기록한다. 교수들은 AI 감시로 인해 '강사'에서 '퍼포머'로 전환되었으며, 강의 내용이 민감한 주제를 다루는지 모니터링되어 자유로운 강의 진행이 어려워졌다. 교육의 본질이 왜곡되고 있다는 우려가 제기되고 있다.

AI 감시 시스템의 도입은 교육 환경에 대한 새로운 접근 방식을 요구하며, 교육 기술 개발자들에게는 윤리적 고려와 사용자 경험 개선의 필요성을 시사한다.

OpenAI, GPT-5.5 출시 및 DeepSeek V4 오픈소스 발표

OpenAI가 GPT-5.5를 출시했으며, 이는 코딩 관련 개선 사항과 함께 시스템 카드에서 사고 과정 모니터링 및 불일치 테스트에 대한 내용을 포함하고 있다. 가격은 GPT-5.4보다 높아졌고, '고블린'에 대한 경고가 포함된 시스템 프롬프트와 같은 특이점도 있다. xAI는 Grok Voice Think Fast 1.0을 출시하여 실시간 음성 에이전트에서 큰 벤치마크 성과를 기록했다고 발표했다. DeepSeek는 MoE 스케일링과 1M 토큰 컨텍스트를 지원하는 DeepSeek V4(Pro 및 Flash)를 오픈소스로 공개했다. Tencent는 Hunyuan 3 프리뷰를 발표했지만 벤치마크 성능은 낮았다. 구글은 Anthropic에 최대 400억 달러를 투자할 계획이다.

[설명] 폐쇄형 API를 자체 호스팅으로 바꾸기: vLLM 추론 서빙의 핵심

vLLM은 PagedAttention과 연속 배칭(continuous batching)을 처음으로 대중화한 오픈소스 LLM 서빙 엔진으로, 프로덕션 추론의 사실상 기본 선택지가 됐다. 핵심 아이디어는 KV 캐시 메모리를 OS의 페이징처럼 블록 단위로 관리해 메모리 낭비를 줄이고, 여러 요청을 토큰 단위로 끼워 넣어 GPU를 쉴 틈 없이 돌리는 것이다. 덕분에 전통적 방식 대비 처리량이 크게 올라간다. Apache 2.0 라이선스에 OpenAI 호환 API 서버를 기본 제공해, 클라이언트 코드를 거의 바꾸지 않고 폐쇄형 API를 자체 인프라로 교체할 수 있다. Llama, Mixtral, DeepSeek-V3 같은 HuggingFace 모델과 NVIDIA·AMD·Intel·TPU 등 폭넓은 하드웨어를 지원한다. 비용 절감, 데이터가 외부로 나가지 않는 프라이버시, 응답 지연 통제가 필요할 때 자체 호스팅의 출발점으로 검토할 가치가 있다.

API 비용·데이터 주권·지연 통제가 중요한 한국 팀이 오픈 가중치 모델을 직접 운영하려 할 때 가장 먼저 만나는 기반 기술이다.

AI 학습 저작권 판결의 갈림길: 학습은 공정이용, 그러나 '해적판'은 별개

AI 학습데이터 저작권 소송의 윤곽이 2025~2026년 판결로 점차 잡혔다. Bartz v. Anthropic과 Kadrey v. Meta는 2025년 6월 이틀 간격으로 나왔는데, 둘 다 '저작물로 LLM을 학습시키는 행위 자체'는 공정이용(fair use)이 될 수 있다고 봤다. 법원은 저자가 학습용 라이선스 수익을 당연히 받을 권리가 있는 것은 아니며, 학습데이터 라이선스 시장은 저작권법이 보장하는 시장이 아니라고 판시했다. 그러나 두 판결은 두 지점에서 갈렸다 — 학습에 '해적판(pirated)' 콘텐츠를 쓴 것의 책임, 그리고 AI 산출물의 시장 잠식 효과를 손해 분석에 넣을지 여부다. 반면 Thomson Reuters v. Ross Intelligence(2025년 2월)는 헤드노트 복제가 공정이용이 아니라고 봤는데, 해당 AI가 저작권자의 상품과 직접 경쟁했다는 점(1·4 요소)이 결정적이었다. 즉 '학습은 공정이용일 수 있다'는 일반 면죄부가 아니며, 출력이 원저작물 시장을 직접 대체하면 판단이 뒤집힌다.

RAG 평가의 3분할: RAGAS는 탐색, DeepEval은 CI/CD 게이트, TruLens는 대시보드

RAG를 운영에 올리려면 '체감'이 아니라 측정이 필요하고, 2026년 오픈소스 평가 3종의 역할 분담이 정리됐다. RAGAS는 reference-free(정답셋 없이 LLM-as-judge) 평가를 개척한 사실상의 산업 표준으로, 월 40만 다운로드·누적 2천만 회 평가가 돌고 있다. 핵심 4지표는 context precision/recall(검색 단계)과 faithfulness/answer relevancy(생성 단계)로, 검색 실패와 생성 실패를 분리해 진단한다. faithfulness는 출력이 검색된 컨텍스트를 벗어나거나 모순되는 경우 — 즉 추론 계층에서의 환각 — 를 잡아내며, faithfulness·context precision이 0.8을 넘으면 프로덕션 수준으로 본다. 실무 권고는 명확하다: 지표 탐색·분석은 RAGAS, CI/CD에서 회귀를 막는 자동 게이트는 DeepEval, 실험 추적 대시보드는 TruLens. 한 도구로 다 하려 하지 말고 단계별로 쓰라는 것이다.

RAG 프로젝트가 망하는 흔한 패턴은 평가를 '나중에'로 미루다 프롬프트·청킹·모델을 바꿀 때마다 품질이 오르내리는지조차 모르는 상태가 되는 것이다. 핵심은 context precision/recall과 faithfulness를 분리 측정해 '검색이 못 가져온 것'과 'LLM이 지어낸 것'을 구분하는 진단력이다. AIPida 같은 콘텐츠 파이프라인이라면 DeepEval을 PR 머지 게이트에 걸어 faithfulness 0.8 미만이면 배포를 막는 식으로, 평가를 코드 리뷰처럼 자동화하는 것이 회귀 방지의 출발점이다.

Sequoia Ascent 2026에서의 AI 에이전트 변화

Andrej Karpathy는 Sequoia Ascent 2026에서 AI 에이전트의 변화와 소프트웨어의 미래에 대해 이야기했다. 그는 LLM이 더 이상 단순한 챗봇이 아니며, 디지털 작업을 위한 새로운 프로그래밍 레이어로 발전하고 있다고 설명했다. 2025년 12월을 기점으로 프로그래밍의 기본 작업 흐름이 변화했으며, 프로그래머는 코드 작성을 넘어 에이전트를 조율하는 역할로 진화하고 있다고 강조했다. 또한, Software 3.0에서는 컨텍스트 윈도우가 주요 프로그래밍 수단이 되며, 예를 들어 복잡한 도구 설치 과정이 에이전트에 의해 자동으로 처리될 수 있다고 언급했다.