AI 뉴스

AI 콘텐츠 출처표시 의무화, C2PA·SynthID 2단 표준과 EU AI Act 시행

AI 생성물의 출처·진위 표시가 권고에서 규제로 넘어가고 있다. 업계는 두 겹 표준으로 수렴했다. 하나는 C2PA 콘텐츠 자격증명(Content Credentials)으로, 어떤 기기·모델이 만들었는지와 적용된 편집 이력을 서명된 JSON-LD 매니페스트에 기록한다. C2PA 2.1은 2025년 비준돼 ISO/IEC 22144 표준이 됐다. 다른 하나는 SynthID 같은 비가시 워터마크다. 이 스택은 Adobe·Microsoft·OpenAI·Meta·Google과 Leica·Sony·Nikon·Canon 카메라 펌웨어가 지원한다. 규제 측면에서 캘리포니아 SB 942는 2026년 1월 1일 발효됐고, EU AI Act 제50조 집행은 2026년 8월 시작된다. 한국 개발자가 이미지·영상·음성 생성 기능을 서비스에 넣는다면, EU·미국 시장 대상 제품에서는 메타데이터 매니페스트 부착과 워터마킹을 설계 단계부터 고려해야 컴플라이언스 리스크를 피할 수 있다.

C2PA가 ISO 표준이 되고 EU·캘리포니아 규제가 발효되면서, 생성 기능을 넣는 제품은 출처표시를 설계 단계부터 반영해야 한다

데이터 과학자의 역할 변화와 머신러닝 엔지니어링의 분리

데이터 과학자는 통계와 소프트웨어 공학의 혼합된 기술을 요구하며, 예측 모델을 구축하고 인과관계를 측정하는 역할을 수행한다. 그러나 LLMs의 등장으로 AI 배포에서 데이터 과학자와 머신러닝 엔지니어(MLE)의 역할이 줄어들고 있다. OpenAI의 블로그에서는 Codex가 테스트와 사양으로 제한된 환경에서 독립적으로 소프트웨어 프로젝트를 수행한 사례를 소개하며, 데이터 과학이 시스템의 중요한 부분임을 강조한다. 데이터에 대한 깊은 이해 없이 일반적인 메트릭을 사용하는 것은 문제를 진단하는 데 도움이 되지 않으며, 데이터 분석과 맞춤형 메트릭 설계가 필요하다.

Suno v5.5, 내 목소리로 AI 노래 부르기와 커스텀 모델 파인튜닝

Suno가 2026년 3월 25일 v5.5를 출시하며 AI 음악 생성에 세 가지 핵심 기능을 더했다. 첫째 Voices는 커뮤니티 최다 요청 기능으로, 사용자가 자신의 노래하는 목소리를 캡처해 AI 생성 곡에서 그 음성으로 부르게 한다. 둘째 Custom Models는 본인이 권리를 가진 원곡 최소 6곡을 업로드하면 Suno가 그 스타일 패턴으로 v5.5를 파인튜닝해 주는 기능으로, Pro·Premier 사용자는 최대 3개의 커스텀 모델을 만들 수 있다. 셋째 My Taste는 개인 취향 기반으로 음악 생성을 개인화한다. Suno는 v5.5를 '가장 표현력 있고 가장 인간적인 버전'으로 소개하며, 이 역량들이 2026년 하반기 음악 업계와 함께 출시할 차세대 모델의 토대라고 밝혔다.

Voices와 Custom Models는 AI 음악을 '범용 생성기'에서 '개인·브랜드의 고유 사운드 자산'으로 옮기는 전환점이다. 크리에이터에게는 자기 목소리·스타일을 IP화할 기회지만, 동시에 6곡 권리 보유 같은 라이선스 게이트와 음성·스타일 무단 학습 이슈가 따라온다. 한국에서 AI 음악을 콘텐츠·광고에 쓰려는 팀은 학습 소스의 권리 확인과 상업적 사용 약관을 출시 전에 반드시 점검해야 한다.

MCP 2025-11-25 스펙: 비동기 Tasks와 URL 모드 일릴리시테이션

Model Context Protocol의 2025-11-25 리비전은 자동화 워크플로 설계 방식을 바꾼다. 핵심은 Tasks 프리미티브로, 어떤 요청이든 즉시 task 핸들을 돌려받고 나중에 상태를 폴링해 결과를 가져오는 call-now/fetch-later 패턴을 지원한다. task는 working, input_required, completed, failed, cancelled 상태를 거치므로 장시간 멀티스텝 작업을 조율하기 쉬워진다. 또 하나는 일릴리시테이션 강화다. 서버가 작업 중간에 멈춰 사용자 입력을 요청할 수 있고, URL 모드(SEP-1036)는 OAuth·결제·API 키 같은 민감 플로를 클라이언트 안이 아니라 브라우저에서 완료하도록 URL을 건넨다. 다만 Tasks는 실험적 코어 기능으로 출시됐고, 실제 운영에서 재설계 필요성이 드러나 이후 2026-07-28 릴리스 후보에서는 스펙 본체가 아닌 Extension으로 옮겨졌다는 점은 알아둘 필요가 있다.

Jensen Huang, NVIDIA CEO가 말하는 AI 혁명과 회사 운영

Jensen Huang은 NVIDIA의 공동 창립자이자 CEO로, NVIDIA는 세계에서 가장 가치 있는 회사이며 AI 컴퓨팅 혁명의 핵심 역할을 하고 있다. 팟캐스트에서는 NVIDIA의 운영 방식, AI 스케일링 법칙, 공급망, 메모리, 전력 문제, 중국과 TSMC, AI 데이터 센터의 우주 배치 등 다양한 주제가 다루어졌다.

Voxtral TTS: 빠르고 적응 가능한 텍스트-투-스피치 모델

Voxtral TTS는 빠르고 즉시 적응 가능하며, 생생한 음성을 생성하는 오픈 웨이트 텍스트-투-스피치 모델이다.

이 모델은 음성 에이전트 개발에 있어 성능 향상과 적응성을 제공할 수 있다.

Nvidia DLSS 5, 비디오 게임을 위한 실시간 생성 AI 필터

Nvidia의 DLSS 5는 비디오 게임에서 포토리얼리즘을 향상시키기 위해 생성 AI를 사용하는 기술이다. 이 기술은 게임 외에도 다양한 분야로의 확장을 목표로 하고 있다.

DLSS 5는 게임 개발자들에게 실시간 렌더링 품질을 높일 수 있는 새로운 도구를 제공한다.

LLM 아키텍처 갤러리 및 주목 변형 정리

DeepSeek V4의 출시가 지연됨에 따라, 저자는 지난 몇 년간 다룬 다양한 LLM 아키텍처를 정리하여 LLM 아키텍처 갤러리를 만들었다. 현재 45개의 항목이 포함되어 있으며, 각 항목은 시각적 모델 카드와 함께 제공된다. 갤러리는 정기적으로 업데이트될 예정이며, 포스터 버전도 제공된다. Multi-Head Attention (MHA) 개념이 설명되며, GPT-2, OLMo 2 7B, OLMo 3 7B와 같은 아키텍처가 예시로 언급된다. 주목(attention) 메커니즘은 RNN의 한계를 극복하고 입력 시퀀스의 모든 토큰에 접근할 수 있게 해준다.

Kepler의 행성 운동 법칙 발견과 AI의 과학적 발견 속도

Kepler가 행성 운동 법칙을 발견한 방식은 매우 독창적이며 놀라웠다. AI가 과학적 발견에서 빠른 진행을 이룰 것이라는 주장과 달리, 올바른 아이디어의 검증 루프는 수십 년 또는 수천 년이 걸릴 수 있다. 현재의 더 나은 이론이 오히려 잘못된 예측을 할 수 있으며, 이러한 현상은 판단과 휴리스틱의 혼합으로 설명될 수 있지만, 이를 명확히 설명하거나 RL 루프로 체계화하기는 어렵다.

AI의 과학적 발견에 대한 이해는 개발자들이 AI 모델을 설계하고 평가하는 데 있어 중요한 통찰을 제공할 수 있다.

[설명] ComfyUI 노드 워크플로를 프로덕션 생성 백엔드 API로 쓰는 법

ComfyUI는 노드 기반 GUI로 알려졌지만, 그 본질은 HTTP·WebSocket 서버를 갖춘 이미지·영상 생성 백엔드라는 점이다. UI에서 만든 워크플로를 JSON으로 내보내 API로 큐잉하면, 어떤 애플리케이션이든 생성 엔진으로 ComfyUI를 호출할 수 있다. WebSocket은 실행 이벤트, 샘플러 진행률, 프리뷰 이미지, 큐 상태를 스트리밍해 작업 진행과 완료를 실시간으로 받는다. 프로덕션에서 핵심 패턴은 두 가지다. 첫째, VRAM 경쟁(thrashing)을 피하려 워크플로마다 전용 웜 워커를 두어 격리한다. 둘째, 모든 의존성과 커스텀 노드를 버전·커밋 해시로 고정해 의도하지 않은 업데이트로 결과물이 바뀌는 사고를 막는다. 텍스트→이미지→영상→업스케일을 하나의 파이프라인으로 체이닝하고 배치 자동화까지 묶을 수 있어, 생성 기능을 서비스에 내재화하려는 한국 개발팀에게 검증된 셀프호스팅 경로가 된다.

ComfyUI 워크플로를 API로 노출하면 생성 기능을 서비스에 내재화할 수 있고, 워커 격리·의존성 고정이 안정적 운영의 핵심이다

Mistral AI, 기업 맞춤형 AI 모델 구축을 위한 Forge 시스템 발표

Mistral AI가 오늘 기업들이 자사의 독점 지식을 바탕으로 최전선 수준의 AI 모델을 구축할 수 있는 Forge 시스템을 소개했다.

Forge 시스템은 기업들이 자체 데이터를 활용하여 맞춤형 AI 솔루션을 개발할 수 있는 기회를 제공한다.

ClawHub 랭킹 조작과 메신저 경유 프롬프트 인젝션

OpenClaw의 보안에는 여러 우려가 제기됐고, Microsoft 보안 블로그는 OpenClaw를 "지속 자격증명을 가진 신뢰불가 코드 실행"으로 규정하며 일반 워크스테이션에서 격리 없이 쓰기엔 부적합하다고 봤다. 스킬 레지스트리 ClawHub에서는 인증·레이트리밋이 없는 public mutation으로 다운로드 수를 조작할 수 있는 문제가 보고됐고(Silverfort 연구), PoC 악성 스킬이 수 분 내 카테고리 상위에 올랐다가 공개 후 빠르게 수정됐다. 메신저 경로에서는 메시지 객체의 연락처 이름·vCard·위치 라벨 같은 필드에 심은 지시가 LLM 프롬프트로 직렬화돼 보이지 않게 코드를 실행시키는 프롬프트 인젝션이 확인됐다(Imperva 연구, v2026.4.23에서 수정). 기본 동작이 단일 운영자 풀 OS 권한에 exec 자동 허용이라는 점이 이런 위협의 영향 범위를 키운다.

공급망(스킬 레지스트리)과 입력 표면(메신저 메시지) 양쪽에서 신뢰 경계가 무너질 수 있다는 점이 핵심이다. 특히 메시지 메타데이터에 숨긴 지시가 그대로 프롬프트가 되는 구조는, 외부에서 보낸 데이터를 명령과 분리하지 않으면 어떤 LLM 에이전트도 노출될 수 있는 일반적 위험을 잘 보여준다. 3rd-party 스킬은 신뢰불가 코드로 보고 활성화 전 코드를 읽고, 격리 환경에서 운영하는 습관이 필요하다.

ElevenLabs Eleven v3 GA, Audio Tags로 감정 연출하는 음성 70개 언어 지원

ElevenLabs가 2026년 3월 14일 Eleven v3를 정식 출시(GA)했다(2월 알파 후 GA). 가장 큰 변화는 Audio Tags로, 대괄호로 감싼 지시어를 모델이 해석해 음성의 표현을 직접 연출한다. [excited], [whispers], [sighs] 같은 감정·발화 톤부터 [gunshot], [clapping], [explosion] 같은 사운드 이벤트까지 텍스트 안에서 디렉팅할 수 있어, 사실상 'AI 성우를 연출'하는 워크플로가 가능해졌다. 그동안 ElevenLabs의 최대 약점으로 지적되던 감정 표현 범위가 이 업데이트로 따라잡혔다는 평가다. 복잡한 텍스트 처리 오류가 68% 줄었고 70개 이상 언어를 지원한다. 다만 v3는 고충실도 코덱과 큰 모델을 쓰는 만큼 실시간 처리는 불가하며, 실시간·대화형 용도에는 여전히 Flash v2.5를 권장한다. 6월 말까지 80% 할인 프로모션이 진행됐다.

Audio Tags는 음성 생성이 '읽어주기'에서 '연기 연출'로 넘어가는 변곡점으로, 오디오북·내레이션·캐릭터 보이스·광고 더빙에서 후작업 디렉팅 비용을 크게 줄인다. 다만 v3가 실시간 불가라는 점은 중요한 설계 제약으로, 음성 에이전트나 통화형 봇을 만든다면 표현형(v3)과 저지연(Flash v2.5) 모델을 용도별로 분리 적용하는 아키텍처가 필수다.

Jeff Kaplan, 새 게임 The Legend of California 발표

Jeff Kaplan은 블리자드의 전설적인 게임 디자이너로, 새로운 게임 The Legend of California를 그의 새로운 스튜디오 Kintsugiyama에서 출시할 준비를 하고 있다. 이 게임은 현재 Steam에서 위시리스트에 추가할 수 있으며, 알파 버전은 3월에 출시될 예정이다.

Jeff Kaplan의 새로운 게임 개발 소식은 한국 게임 개발자들에게 새로운 프로젝트 기획 및 실행에 대한 인사이트를 제공할 수 있다.

Cursor vs Claude Code: 같은 Opus를 써도 갈리는 건 비용 구조다

둘 다 백엔드로 Claude Opus 4.x를 부를 수 있게 되면서 '어느 게 더 똑똑한가'는 무의미해졌고, 실제 차이는 과금 모델과 컨텍스트 운용에 있다. Cursor는 월 정액(Pro $20) 안에서 요청 풀을 쓰다 한도를 넘으면 usage-based로 넘어가는 구조라, 평소엔 예측 가능하지만 에이전트가 대형 코드베이스를 반복 grep·재읽기하면 빠르게 초과 과금으로 샌다. Claude Code는 Max 구독의 토큰 한도 안에서 돌거나 API 종량제로, 긴 자율 루프를 돌릴수록 한도/비용이 직접 노출된다. 운용 면에서 Cursor는 에디터 UI에 묶여 diff 리뷰·Tab·인덱싱이 강하고, Claude Code는 터미널·CI·서브에이전트 오케스트레이션에 강하다. 핵심 함정은 '한 도구로 다 한다'는 가정이다. 인터랙티브 편집은 Cursor, 무인 장기 작업은 Claude Code로 쪼개는 팀이 비용·품질 양쪽에서 유리하다.

MCP 2026 로드맵, 원격 서버·에이전트 통신·엔터프라이즈로 무게중심 이동

Model Context Protocol(MCP) 메인테이너가 2026년 로드맵을 공개했다. 네 가지 우선순위는 (1) 전송 계층 확장성 — 원격 HTTP 전송을 개선해 수평 확장을 가능케 하고 .well-known 메타데이터로 서버 역량을 탐색, (2) 에이전트 통신 — 장시간 작업을 다루는 Tasks 프리미티브에 재시도·만료 정책을 추가, (3) 거버넌스 성숙 — Working Group 중심으로 SEP(스펙 개선 제안) 검토를 위임, (4) 엔터프라이즈 준비 — 감사 로그·SSO 인증·게이트웨이·설정 이식성이다. 핵심은 로컬 stdio 중심에서 평범한 HTTP 인프라 위에서 스케일하는 상태 비저장(stateless) 원격 서버로 무게중심이 옮겨간다는 점이다. 한국 개발자라면 사내 MCP 서버를 round-robin 로드밸런서 뒤에 둘 수 있는지, Tasks 확장으로 장시간 잡을 어떻게 모델링할지 미리 검토할 가치가 있다.

MCP가 개인 데스크톱 통합을 넘어 멀티테넌트 프로덕션 표준으로 진화하면서, 사내 도구를 에이전트에 연결하는 아키텍처 결정이 달라진다.

MCP 2026 로드맵: 트랜스포트 확장성·에이전트 통신·거버넌스·엔터프라이즈 준비

Model Context Protocol(MCP) 팀이 2026년 로드맵에서 네 가지 우선순위를 제시했다. ① HTTP 트랜스포트의 수평 확장·세션 관리·메타데이터 기반 서버 디스커버리, ② Tasks 프리미티브 개선(일시적 실패 시 재시도 시맨틱·만료 정책), ③ 컨트리뷰터 사다리와 워킹그룹 위임 모델 같은 거버넌스 성숙, ④ 감사 로그·SSO 인증·설정 이식성 등 엔터프라이즈 준비다. 직전 스펙은 2025년 11월에 나왔고, 로드맵 글(2026년 3월 9일) 기준 이후 새 버전은 발표되지 않았다. MCP는 Anthropic·OpenAI·Google·Microsoft·AWS 등 주요 벤더가 모두 지원하는 사실상 표준으로 자리 잡았기에, MCP 서버를 만들거나 사내 도구를 연결하는 한국 개발자는 스트리머블 HTTP 트랜스포트와 Tasks의 재시도·만료 설계를 미리 이해해두는 게 좋다.

MCP가 멀티 벤더 표준으로 굳어지는 만큼, 트랜스포트·인증·Tasks 설계 변화는 사내 도구 연동의 안정성과 직결된다.

[비판] 에이전트 샌드박싱, gVisor·Firecracker로도 막히지 않는 구멍

코드 실행 에이전트가 늘면서 격리는 컨테이너에서 gVisor·Firecracker 같은 마이크로VM으로 빠르게 이동했다. 문제는 격리 경계가 '프로세스'에 맞춰져 있는데 위협은 '데이터 흐름'을 탄다는 점이다. 샌드박스가 커널 호출을 완벽히 가둬도, 에이전트가 읽은 악성 웹페이지의 프롬프트 인젝션이 내부 도구 호출로 번지는 lethal trifecta(민감 데이터 접근·외부 통신·신뢰 불가 입력)는 VM 경계와 무관하게 성립한다. 실측 보고들은 네트워크 egress 화이트리스트와 도구별 권한 분리 없이 마이크로VM만 둔 구성에서 데이터 유출이 재현된다고 지적한다. 결국 하니스 레벨에서 도구 호출마다 능력(capability)을 명시적으로 부여하고, 신뢰 불가 콘텐츠를 읽은 뒤에는 외부 쓰기 권한을 자동 강등하는 흐름 기반 정책이 필요하다. CPU 격리는 필요조건일 뿐 충분조건이 아니다.

실무에선 'Firecracker 띄웠으니 안전하다'는 가정이 가장 위험하다. egress 화이트리스트와 도구 권한 강등을 하니스에 넣지 않으면 격리는 보안 극장에 그친다.

[분석] Structured Output를 강제했더니 추론이 무너지는 구간

JSON 스키마 강제(constrained decoding)는 파서 깨짐을 0으로 만들지만, 모델이 토큰을 문법 제약 안으로만 샘플링하게 묶는다. 그 결과 자유 형식에서 먼저 풀어쓰던 중간 추론이 사라지고, 분류·수치 추출 같은 판단형 작업에서 정확도가 눈에 띄게 떨어지는 사례가 보고된다. 원인은 구조다. 스키마가 답 필드를 앞에 두면 모델은 생각하기 전에 답부터 커밋하게 된다. 회피책은 스키마 안에 reasoning 필드를 답 필드보다 먼저 배치해 constrained decoding 안에서도 사고 순서를 보존하거나, 추론 단계는 자유 텍스트로 받고 마지막 한 번만 구조화 호출로 분리하는 2단 패턴이다. OpenAI strict 모드가 minItems/maxItems류를 거부하는 것처럼, '강제'가 표현력을 좁히는 비용은 늘 따라온다.

실무에선 '깨지지 않는 JSON'을 얻으려고 스키마를 조였다가 분류 정확도가 떨어진 걸 못 보고 넘기기 쉽다. reasoning을 답보다 앞 필드로 두는 한 줄이 정확도를 되돌린다.

벤치마크 오염을 잡는 새 표준, 캐넌리 문자열과 시점 분리 골든셋

공개 벤치마크가 학습 데이터에 새어 들어간 contamination이 평가 신뢰를 갉아먹으면서, 탐지·격리 관행이 정착되고 있다. 핵심은 두 가지다. 하나는 데이터셋에 사람이 절대 검색하지 않을 카나리(canary) GUID 문자열을 심어두고, 모델이 그 문자열을 외우고 있으면 해당 셋을 봤다고 판정하는 방식. 다른 하나는 모델 학습 컷오프 이후 시점에 만들어진 문제만 모아 평가하는 시점 분리 골든셋으로, LiveBench류가 월 단위로 문항을 교체해 암기 이점을 제거한다. 정량 신호로는 같은 문제의 정답/오답 보기 순서를 바꿨을 때 정확도가 급락하면 패턴 암기를 의심한다. 실무 함의는 분명하다. 공개 리더보드 점수는 그 자체로는 무의미에 가깝고, 내부 평가는 비공개 홀드아웃과 정기 회전이 없으면 시간이 갈수록 과대평가된다.

Antidote: 창의성을 회복하는 방법

개발자들은 효율성보다 창의적인 과정이 중요하다는 점을 인식해야 하며, 손으로 직접 코드를 작성하고, 프로그래밍 서적을 읽고, 비공식적인 방법으로 문제를 해결하는 것이 필요하다. 또한, Discord와 같은 커뮤니티에 참여하고, 블로그를 작성하거나 동료를 멘토링하는 등의 활동을 통해 창의성을 자극할 수 있다. 특히, 트랜스포머 모델의 내부 구조를 분석하고 설명하는 과정은 이해도를 높이는 데 도움이 된다.

evals-skills: AI 제품 평가를 위한 기술 세트 발표

Hamel Husain은 AI 제품 평가를 위한 기술 세트인 evals-skills를 발표했다. 이 기술은 50개 이상의 기업과 4,000명 이상의 학생을 도우며 발견한 일반적인 실수를 방지하는 데 도움을 준다. evals-skills는 애플리케이션을 계측하고, 실험을 수행하며, 데이터를 분석하고, 인터페이스를 구축하는 기능을 갖추고 있다. 특히, OpenAI의 Codex 에이전트를 활용한 사례를 통해 에이전트의 인프라 개선이 모델 개선보다 중요하다는 점을 강조하고 있다. 이 기술은 기존의 MCP 서버와 함께 사용되어 에이전트가 실험과 추적 정보를 활용하는 방법을 가르친다.

Rick Beato: 음악 교육자이자 다재다능한 뮤지션

Rick Beato는 음악 교육자, 인터뷰어, 프로듀서, 작곡가이며 기타, 베이스, 첼로, 피아노를 연주하는 다재다능한 뮤지션이다. 그의 유튜브 채널은 위대한 뮤지션과 음악적 아이디어를 기념하며, 많은 사람들이 훌륭한 음악에 다시 빠질 수 있도록 돕고 있다. 에피소드에서는 기타 솔로, 재즈, AI와 음악의 관계 등 다양한 주제가 다뤄진다.

[상록] 1% 오류가 63% 실패로: 에이전트는 왜 관측·평가가 동시에 필요한가

프로덕션 에이전트는 확률적으로 동작하고, 도구를 동적으로 고르며, 비결정적 출력을 다단계로 연쇄한다. 이때 단계당 1% 오류율이 누적되면 전체 실패 확률이 약 63%까지 치솟는다 — 이 '순차 오류 누적'이 에이전트 신뢰성의 정의적 난제다. 그런데 현장에는 간극이 있다. 프로덕션 에이전트를 가진 팀의 약 89%가 어떤 형태로든 관측(observability)을 도입했지만, 제대로 된 평가(evaluation)를 돌리는 곳은 약 52%에 그친다. 대부분의 실패가 바로 이 두 수치의 간극에서 일어난다. 관측은 실행 트레이스·도구 호출 시퀀스·추론 경로·출력 품질 신호를 모아 일반 APM이 놓치는 실패를 드러내고, 평가는 배포 전·후로 그 행동을 측정한다. 프로덕션 레디 에이전트는 구조화 로깅·런타임 거버넌스·드리프트 모니터링·정의된 에스컬레이션 경로를 갖추고, 조용히 망가지는 대신 실패를 우아하게 처리한다.

한국 팀이 에이전트를 출시할 때 '관측만 붙이고 평가는 미루는' 흔한 패턴이 실패의 주원인임을 수치로 보여주며, 두 가지를 함께 세팅해야 함을 알린다.