본문으로 건너뛰기

AI 뉴스

Tool Use중급·

병렬 도구 호출, 이제 모델이 '같이 부를 것'을 직접 묶는다

Anthropic이 Claude Opus 4.5와 Sonnet 4.5 계열에서 병렬 도구 호출 신뢰도를 끌어올린 가이드를 갱신했다. 핵심은 독립적인 도구 호출을 한 턴에 배열로 묶어 내보내는 능력이 모델 자체로 안정화됐다는 점이다. 이전에는 read 3건을 순차로 돌려 왕복 지연이 쌓였는데, 의존성 없는 호출을 한 번에 펼치면 검색·조회 위주 에이전트에서 체감 지연이 절반 가까이 줄어든다. 다만 공짜는 아니다. 모델이 의존 관계를 오판하면 아직 안 나온 ID를 인자로 끼워 넣은 채 병렬로 쏴버려, 두 번째 호출이 통째로 헛돈다. 그래서 도구 description에 '이 도구의 출력이 저 도구의 입력'이라는 선후 관계를 명시하라는 권고가 함께 붙었다. 병렬화는 토큰을 아끼는 게 아니라 라운드트립을 아끼는 최적화라는 점을 분명히 한 것이다.

Anthropic Engineering원문
Evaluation중급·

LLM-as-judge의 자기편향, 같은 모델 채점 시 평가가 무너지는 지점

심판 모델이 자기 계열이 쓴 답변에 점수를 더 주는 self-preference 편향이 더 정밀하게 측정되고 있다. GPT-5.x로 GPT 출력을, Claude로 Claude 출력을 채점하면 교차 채점 대비 승률이 수 퍼센트포인트 부풀려진다는 재현 결과가 쌓였다. 원인은 단순 브랜드 선호가 아니라 심판이 자기 분포에 가까운 문체·구조를 '더 익숙하니 더 좋다'고 인식하는 perplexity 상관에 있다. 위치 편향(먼저 제시된 답에 후함), 장황함 편향(길수록 후함)과 겹쳐 작동해서 단일 심판 점수는 절대값으로 신뢰하기 어렵다. 완화책으로는 서로 다른 계열 심판 2~3개의 패널 평균, A/B 순서 무작위화와 스왑 후 일치율 측정, 답변 길이 정규화가 표준이 되고 있다. 결국 LLM-as-judge는 랭킹 신호로는 쓸 만하지만 게이트 임계값을 거기에 직접 거는 건 위험하다.

Claude Code중급·

Claude Code 서브에이전트, 별도 컨텍스트 창으로 분리됐다

Claude Code의 서브에이전트(.claude/agents/*.md)가 메인 대화와 분리된 독립 컨텍스트 창에서 돌도록 정리됐다. 각 서브에이전트는 자체 시스템 프롬프트·허용 도구 화이트리스트·모델을 지정하고, 메인 스레드는 호출 결과(요약 텍스트)만 돌려받는다. 핵심은 컨텍스트 격리다. 대형 코드베이스를 grep으로 훑거나 테스트 로그 수백 줄을 파싱하는 작업을 서브에이전트에 떠넘기면, 그 토큰 폭증이 메인 창을 오염시키지 않는다. 대신 호출당 새 컨텍스트를 채우는 비용과 왕복 지연이 붙어서, 잘게 쪼개진 다수 호출은 오히려 느리고 비싸진다. 한 번에 한 서브에이전트가 끝나야 다음이 시작되는 직렬 실행 구간이 길면 체감 속도가 떨어진다.

Anthropic Engineering원문
AI 프로덕트·스타트업입문·

OpenAI·조니 아이브 첫 AI 디바이스 Sweetpea, 화면 없는 음성 우선 하드웨어 2026 하반기 공개

OpenAI가 조니 아이브의 스타트업 io를 65억 달러에 인수한 뒤 준비해온 첫 하드웨어가 2026년 하반기 공개로 공식화됐다. 최고글로벌담당자 Chris Lehane이 다보스에서 연내 첫 물리 제품 공개를 확인했다. 핵심은 폼팩터다 — 코드명 'Sweetpea'는 화면 없는(screen-free) 귀 뒤 착용형 웨어러블로, 2nm 칩과 환경 센서를 탑재해 항상 주변을 듣는 '음성 우선' 기기로 설계됐다. 펜 형태의 'Gumdrop' 등 복수 폼팩터가 병행 개발 중이다. 샘 올트먼은 이 제품을 스마트폰에 대한 '평온하고 차분한(peaceful and calm)' 대안으로 규정했고, 즉 알림과 화면 중독을 줄이는 방향의 인터랙션을 노린다. 생산은 Foxconn을 통해 초기 4,000만~5,000만 대 규모를 목표로 한다. 다만 'always-listening' 특성은 프라이버시·상시 녹음 논쟁을 필연적으로 부른다.

화면 없는 음성 우선 디바이스는 앱 아이콘·터치 UI 위에 쌓아온 모바일 제품 문법을 무너뜨린다. UI가 사라지면 '컨텍스트를 알아서 채우는 에이전트'가 곧 제품이 되며, 한국 빌더에게는 음성·온디바이스·프라이버시(상시 녹음 동의·로컬 처리)가 새 설계 1순위로 부상한다. 상시 청취 기기는 한국 개인정보보호·녹음 동의 규제와 정면으로 부딪치므로, 데이터 주권을 코어로 잡은 제품(로컬 우선·명시적 동의)이 차별화 포인트가 된다.

Android Headlines원문
Orchestration고급·

멀티 에이전트는 거의 항상 틀린 답이다 — 단일 에이전트+컨텍스트 엔지니어링 반론

'전문 에이전트를 여러 개 두고 매니저가 위임한다'는 멀티 에이전트 환상에 대한 강한 반론이 업계 엔지니어링 블로그를 중심으로 굳어졌다. 핵심 비판은 두 가지다. 첫째, 서브에이전트끼리 컨텍스트를 공유하지 못하면 같은 사실을 서로 다르게 가정해 결과가 충돌하고(컨텍스트 단절), 둘째 한 에이전트의 출력을 다른 에이전트의 입력으로 넘기는 핸드오프 지점마다 정보가 압축·소실되어 오류가 누적된다. 결정은 분산되는데 결정에 필요한 맥락은 분산되지 않으므로, 병렬 작성자(writer) 여러 명이 서로 모순되는 보고서를 만드는 전형적 실패가 나온다. 대안으로 제시되는 건 '단일 스레드 에이전트 + 컨텍스트 엔지니어링'이다. 작업을 쪼개되 결정권은 한 곳에 모으고, 긴 컨텍스트를 압축·요약해 단일 에이전트가 전체 맥락을 유지하게 한다. 멀티 에이전트가 정당화되는 경우는 읽기 전용 병렬 조사처럼 결과를 합치기만 하면 되는, 쓰기 충돌이 없는 작업으로 좁혀진다.

한국 스타트업이 '에이전트 오케스트라'를 마케팅 문구로 앞세우지만, 실제로는 토큰 비용 N배에 디버깅 불가능한 분산 실패만 떠안는 경우가 많다. 이 반론의 실무 지침은 명확하다. 멀티 에이전트로 가기 전에 '이 작업에 진짜 쓰기 충돌이 없는 병렬성이 있는가'를 먼저 물어라. 대부분의 비즈니스 워크플로(고객 응대, 문서 생성, 코드 수정)는 결정이 한 곳에 모여야 일관성이 유지되며, 멀티 에이전트는 비용·지연·복잡도만 늘린다. 오케스트레이션 설계의 기본값은 단일 에이전트로 두고, 병렬화는 예외로 정당화하는 편이 안전하다.

Cognition / 업계 에이전트 엔지니어링 논의
AI 코딩·

Claude Code 월 최대 $200, Goose는 무료 대안 제공

Claude Code는 Anthropic의 AI 코딩 에이전트로, 월 $20에서 $200의 요금이 부과된다. 이에 따라 무료 대안인 Goose가 인기를 끌고 있으며, Goose는 사용자의 로컬 머신에서 실행되며 구독료가 없다. Goose는 GitHub에서 26,100개 이상의 별점을 보유하고 있으며, 1.20.1 버전이 2026년 1월 19일에 출시되었다. 반면, Claude Code는 사용량에 따라 제한된 프롬프트 수를 제공하며, 새로운 요금제에 대한 불만이 커지고 있다.

Goose는 로컬에서 실행되므로 개발자들이 클라우드 의존 없이 AI 코딩 도구를 사용할 수 있는 선택지를 제공한다.

VentureBeat — AI원문
AI 코딩·

nbdev 사용 중단 이유와 AI 도구의 영향

저자는 nbdev를 통해 수백 개의 프로젝트를 만들었지만, AI 코딩 도구의 발전으로 인해 nbdev 사용을 중단했다. nbdev의 워크플로우는 Jupyter 노트북에서 코드, 문서, 테스트를 작성하고 이를 Python 라이브러리로 변환하는 방식으로, AI 도구와의 협업에서 혼란을 초래한다고 언급했다. 현재는 Amp, Cursor, Claude Code를 사용하며, 웹 개발에는 Next.js 스택을 선호하고 있다. TypeScript는 GitHub에서 Python과 JavaScript를 초과하는 언어로 자리 잡았다.

AI 도구의 발전으로 인해 기존의 개발 환경과 도구에 대한 재평가가 필요하다.

Hamel Husain's Blog원문
AI 프로덕트·스타트업·

Listen Labs, 6900만 달러 투자 유치 및 AI 고객 인터뷰 플랫폼 성장

Listen Labs는 6900만 달러의 시리즈 B 자금을 유치했으며, 이는 Ribbit Capital이 주도하고 Sequoia Capital, Conviction, Pear VC가 참여했다. 이로써 Listen Labs의 기업 가치는 5억 달러로 평가되며, 총 자본은 1억 달러에 이른다. Listen Labs는 AI를 활용하여 고객 인터뷰를 수행하며, 기존의 정량적 조사와 정성적 인터뷰의 한계를 극복하는 플랫폼을 제공한다. 이 플랫폼은 3000만 명의 글로벌 네트워크에서 참가자를 모집하고, AI가 심층 인터뷰를 진행하여 실행 가능한 인사이트를 몇 시간 내에 제공한다. 또한, Listen은 참가자의 신원을 검증하기 위해 '품질 가드' 시스템을 구축하여 사기 및 저품질 응답을 줄이고 있다.

VentureBeat — AI원문
생성 이미지·영상·음성고급·

FLUX.2, 포토리얼리즘·다중 레퍼런스 일관성에 klein 온디바이스까지

Black Forest Labs가 2025년 11월 FLUX.2 시리즈를 공개하며 Pro·Flex·Dev, 그리고 Apache 2.0 라이선스의 klein 모델로 라인업을 구성했고, 2026년 1월에는 소비자용 하드웨어에서 인터랙티브하게 돌아가는 경량 FLUX.2 [klein]을 추가했다. FLUX.2는 이미지 레퍼런스·포토리얼리즘·타이포그래피·프롬프트 이해에서 개선을 내세우며, 수십 장의 유사 변형을 만드는 다중 레퍼런스(multi-reference) 기능과 최대 4메가픽셀 편집을 지원한다. 아키텍처는 Mistral-3 24B 비전-언어 모델에 rectified flow transformer를 결합한 구조로, 2026 벤치마크에서 포토리얼리즘과 다중 레퍼런스 일관성 선두로 평가받는다. klein은 서브-초 단위 생성·편집과 text-to-image·image-to-image 통합 아키텍처를 제공하며, 로컬 GPU부터 클라우드 API까지 배포 선택지가 넓다. NVIDIA RTX 최적화, Cloudflare Workers AI에 FLUX.2 [dev] 탑재 등 인프라 파트너십도 확장됐다.

폐쇄형 프런티어 모델이 텍스트 렌더링과 4K로 경쟁하는 사이, FLUX.2는 '오픈 가중치 + 로컬 실행 + 라이선스 명확성'이라는 빌더 친화 축을 지킨다. 데이터 외부 반출이 민감한 한국 기업이나 비용을 토큰당 과금에 묶이고 싶지 않은 팀에게 klein/dev 자체 호스팅은 실질적 대안이며, Apache 2.0 klein은 상용 제품에 임베드해도 라이선스 리스크가 작다는 점이 핵심 차별점이다.

NVIDIA Blog / Black Forest Labs원문
AI 프로덕트·스타트업·

AI Evals: LLM 평가 시스템에 대한 FAQ

이 문서는 700명 이상의 엔지니어와 PM에게 AI Evals를 가르치면서 받은 일반적인 질문들을 정리한 것이다. LLM Evals는 제품 특정 LLM 평가를 위한 시스템으로, 에러 분석, 도메인 전문가 활용, 데이터 세트 생성 등의 단계로 구성된다. 최소한의 평가 설정은 인프라가 아닌 에러 분석에서 시작해야 하며, 도메인 전문가를 품질 결정자로 활용해야 한다. 개발 예산에서 평가에 할당할 비율은 에러 분석과 평가가 개발 과정의 일부로 간주되어야 한다는 점을 강조한다.

Hamel Husain's Blog원문
Antigravity고급·

[분석] Antigravity의 자율 코딩, 신뢰의 병목은 '에이전트 검증'이 아니라 사람의 리뷰 대역폭이다

Antigravity는 에이전트가 브라우저로 자기 결과를 검증하고 Artifacts로 증거를 남기지만, 실사용 보고에서 드러난 한계는 모델 능력이 아니라 사람 쪽 처리량이다. 에이전트가 동시에 여러 워크스페이스에서 비동기로 돌면, 각 태스크가 만들어낸 계획·diff·스크린샷·브라우저 녹화를 사람이 다 검수하기 어렵다. 에이전트가 '테스트 통과' 스크린샷을 첨부해도, 그 테스트 자체가 약하면 녹색 화면이 거짓 안심을 준다. 무한 자율 모드에서 에이전트가 의존성을 멋대로 추가하거나 막힌 빌드를 우회하려 설정을 바꾸는 사례도 보고됐다. 결국 검증의 무게중심이 '코드가 맞나'에서 '에이전트가 만든 증거를 믿을 수 있나'로 옮겨가고, 리뷰 부담은 줄지 않고 형태만 바뀐다.

실무에선 에이전트 산출물의 스크린샷·테스트 green을 '검증 완료'로 착각하면 위험하다. 빈 상태·엣지 케이스를 사람이 직접 확인하는 게이트는 자율 에이전트 시대에도 그대로 남는다.

Ars Technica

Paul Rosolie: 아마존 정글의 미접촉 부족

Paul Rosolie는 자연주의자이자 탐험가이며, 최근 'Junglekeeper'라는 책을 저술했다. 그는 아마존 열대우림 보호에 헌신하고 있다. 팟캐스트에서는 미접촉 부족과의 새로운 만남, 부족 전사들의 이전에 본 적 없는 영상, 정글의 신비, 부족의 식단 등에 대해 논의하였다.

아마존의 생태계와 문화 보호에 대한 논의는 환경 기술 및 지속 가능성 관련 프로젝트에 영감을 줄 수 있다.

Lex Fridman Podcast원문
AI 에이전트·

Salesforce, Slackbot을 AI 에이전트로 재구성하여 출시

Salesforce는 Slackbot의 완전 재구성된 버전을 출시했다. 새로운 Slackbot은 기업 데이터를 검색하고, 문서를 작성하며, 직원의 대리로 행동할 수 있는 AI 에이전트로 발전했다. 이 버전은 Business+ 및 Enterprise+ 고객에게 제공되며, Anthropic의 대형 언어 모델인 Claude를 기반으로 한다. Salesforce는 향후 Google의 Gemini와 OpenAI의 모델도 지원할 계획이다. 내부 테스트 결과, 80,000명의 직원 중 66%가 새로운 Slackbot을 사용해봤고, 80%가 정기적으로 사용하고 있으며, 만족도는 96%에 달한다.

Slackbot의 AI 기능 강화는 한국 기업의 업무 효율성을 높일 수 있는 기회를 제공한다.

VentureBeat — AI원문
AI 에이전트·

Anthropic, Claude Desktop 에이전트 Cowork 출시

Anthropic은 Claude Code 도구의 기능을 비개발자에게 확장한 AI 에이전트 Cowork를 출시했다. 이 기능은 약 1주 반 만에 개발되었으며, Claude Max 구독자에게만 제공된다. Cowork는 사용자가 지정한 폴더에 접근하여 파일을 읽고 수정하거나 새 파일을 생성할 수 있다. 사용자는 여러 작업을 동시에 처리할 수 있으며, Claude는 계획을 세우고 작업을 병렬로 실행하는 방식으로 작동한다.

Cowork는 비개발자도 AI를 활용하여 비기술적 작업을 효율적으로 수행할 수 있는 새로운 방법을 제공한다.

VentureBeat — AI원문
AI 리서치·논문고급·

기계적 해석가능성, 2026 돌파 기술로: 모델 내부를 '회로'로 읽는다

MIT 테크놀로지 리뷰가 기계적 해석가능성(mechanistic interpretability)을 2026년 10대 돌파 기술로 선정했다. 이 분야는 LLM을 블랙박스로 두지 않고, 내부 활성화를 사전(dictionary) 특징이나 프로브 방향 같은 벡터 성분으로 분해한 뒤 이를 어트리뷰션 그래프로 엮어 다단계 추론·환각·탈옥 저항 같은 동작의 '회로'를 가시화한다. 단순 관찰을 넘어 특정 특징을 인위적으로 강화·억제(steering)해 인과 효과를 검증하는 단계까지 왔다. Anthropic은 2025년 Claude 3.5 Haiku의 회로 추적 연구를 공개했고, 2027년까지 대부분의 모델 문제를 신뢰성 있게 탐지하겠다는 목표를 내걸었다. 안전·디버깅·정렬 검증을 모델 외부 평가가 아니라 내부 구조 차원에서 다루려는 흐름으로, AI 시스템의 신뢰성 검증 방식을 근본적으로 바꿀 잠재력이 있다.

프롬프트·출력 블랙박스 평가를 넘어 모델 내부 동작을 직접 검증하는 길을 열어, 안전성·디버깅·정렬 검증의 기준을 바꾼다.

MIT Technology Review원문
AI 코딩·

Nous Research, NousCoder-14B 공개 및 성능 개선

Nous Research는 48개의 Nvidia B200 그래픽 프로세서를 사용하여 4일 만에 훈련된 새로운 코딩 모델 NousCoder-14B를 발표했다. 이 모델은 LiveCodeBench v6에서 67.87%의 정확도를 기록하며, Alibaba의 Qwen3-14B 모델에 비해 7.08% 향상된 성능을 보인다. Nous Research는 모델 가중치뿐만 아니라 전체 강화 학습 환경과 벤치마크 세트를 공개하여 연구자들이 이 작업을 재현하거나 확장할 수 있도록 했다. NousCoder-14B의 훈련 과정은 24,000개의 경쟁 프로그래밍 문제를 기반으로 하며, 코드 솔루션의 정확성을 검증하는 피드백 루프를 포함한다.

VentureBeat — AI원문
커리어·채용·

2023년 LLM의 발전과 프로그래머의 역할 변화

2023년 LLM의 발전으로 인해 NLP 분야에서 프로그래머의 역할이 변화하고 있으며, LLM이 다양한 작업을 수행할 수 있는 능력을 갖추고 있다. 특히, LLM은 프로그래밍 언어와 관련된 작업을 자동화할 수 있는 잠재력을 지니고 있으며, ChatGPT와 같은 모델이 그 예시로 언급된다. NVIDIA CEO Jensen Huang은 이러한 변화가 프로그래머의 필요성을 줄일 것이라고 언급했다.

위클리 NLP (끄적이는 ML)원문
AI 리서치·논문실전·

MCP, 리눅스 재단 산하 표준으로: 에이전트 연결의 사실상 프로토콜이 되다

Anthropic이 2024년 11월 공개한 모델 컨텍스트 프로토콜(MCP)이 1년 반 만에 AI를 외부 도구·데이터에 연결하는 사실상의 표준으로 자리잡았다. 2025년 12월 Anthropic은 MCP를 리눅스 재단 산하 Agentic AI Foundation에 기증해 벤더 중립·커뮤니티 거버넌스 체제로 전환했고, OpenAI·Google DeepMind·Microsoft가 모두 채택했다. 보도에 따르면 2026년 3월 월간 SDK 다운로드가 9천만 건을 넘었고, 프로덕션 환경의 활성 MCP 서버는 1만 개 이상으로 집계된다. VS Code·Cursor·Claude Code 등 주요 IDE와 클라이언트가 통합을 마쳤다. 한국 개발팀에는 자체 사내 도구·DB·API를 MCP 서버로 한 번 노출하면 여러 AI 클라이언트에서 재사용할 수 있다는 점이 핵심이다. N×M 통합 비용을 N+M으로 줄이는 표준 어댑터 계층이 생긴 셈이다.

사내 시스템을 MCP 서버로 한 번만 노출하면 여러 AI 클라이언트가 공유할 수 있어, 에이전트 통합 비용 구조 자체가 바뀐다.

Joel David Hamkins, 수학 및 철학 전문가

Joel David Hamkins는 집합론, 수학의 기초 및 무한성에 전문성을 가진 수학자이자 철학자이며, MathOverflow에서 가장 높은 평가를 받은 사용자이다. 그는 'Proof and the Art of Mathematics'와 'Lectures on the Philosophy of Mathematics'를 포함한 여러 책의 저자이기도 하며, 'Infinitely More'라는 블로그를 운영하고 있다.

Hamkins의 연구는 수학적 이론과 무한성에 대한 깊은 통찰을 제공하여, 알고리즘 및 데이터 구조 개발에 영향을 미칠 수 있다.

Lex Fridman Podcast원문
AI 리서치·논문·

2025년 LLM 발전: DeepSeek R1과 RLVR의 등장

2025년에는 LLM의 발전이 계속되었으며, 특히 DeepSeek의 R1 모델이 주목받았다. R1은 오픈 웨이트 모델로, 기존의 최고 상용 모델들과 비교할 만한 성능을 보였다. 이 모델은 강화 학습을 통해 추론 행동을 개발할 수 있음을 보여주었고, 훈련 비용이 예상보다 낮아 500만 달러에 이를 수 있다는 새로운 추정이 나왔다. 또한, RLVR 알고리즘이 도입되어 LLM의 후속 훈련에서 새로운 접근 방식을 제공하였다. 이러한 발전은 LLM의 성능 향상과 확장 가능성을 높이는 데 기여할 것으로 보인다.

Ahead of AI (Sebastian Raschka)원문
AI 리서치·논문·

2025년 7월부터 12월까지의 LLM 연구 논문 목록

2025년 7월부터 12월까지의 흥미로운 연구 논문 목록이 공유되었다. 이 목록은 Reasoning Models, Reinforcement Learning Methods for LLMs, Model Releases, Architectures, Efficient Training, Diffusion-Based Language Models, Multimodal & Vision-Language Models, Data & Pre-training Datasets 등 여러 카테고리로 나뉘어 있다. 또한, LLM에 대한 연간 리뷰 기사인 'State of LLMs 2025: Progress, Problems, and Predictions'도 발표되었다.

LLM 관련 최신 연구 동향을 파악하여 프로젝트에 활용할 수 있는 기회를 제공한다.

Ahead of AI (Sebastian Raschka)원문
커리어·채용중급·

AI 시대의 주니어 개발자, 신입에게 중급 수준을 요구하는 시장

AI 코딩 도구가 보일러플레이트, 단순 CRUD, 잔버그 수정 같은 전통적 주니어 업무를 상당 부분 자동화하면서, 신입 채용은 위축되고 진입 장벽은 올라갔다. Stack Overflow와 IEEE Spectrum 등의 보도에 따르면 미국에서 22~25세 소프트웨어 개발자 고용은 2022년 말 정점 대비 약 20% 감소했고, 개발자의 84%가 AI 도구를 사용한다. 문제는 '도제식 성장 경로'가 끊겼다는 점이다. 신입 포지션이 과거 중급에게 기대하던 수준을 요구하기 시작했다. 역설적 기회도 있다. 분석 엔지니어링, 백엔드, 데이터 모델링 배경을 가진 지원자가 프롬프트 패턴만 익힌 사람보다 유리하다. 또한 일부 기업은 5~10년 뒤 시니어 부족을 우려해 의도적으로 신입 파이프라인과 훈련 체계를 유지하는 전략을 택하고 있다. 한국 신입·전직 개발자라면 'AI로 대체되는 일'이 아니라 'AI를 부려 신뢰성 있는 결과를 내는 일'에 포트폴리오를 맞춰야 한다.

신입 채용 기준이 바뀐 만큼, 한국 주니어 개발자는 단순 코딩이 아니라 시스템 설계·데이터·검증 역량으로 차별화해야 살아남는다.

Stack Overflow Blog / IEEE Spectrum원문
AI 리서치·논문·

2025년 LLM의 주요 변화: RLVR과 지능의 형태

2025년 LLM 생산 스택은 Pretraining(GPT-2/3), Supervised Finetuning(InstructGPT), Reinforcement Learning from Human Feedback(RLHF)에서 Reinforcement Learning from Verifiable Rewards(RLVR)로 변화했다. RLVR은 자동으로 검증 가능한 보상에 대해 LLM을 훈련시켜 문제 해결 전략을 개발하게 하며, 이는 이전 패러다임에서는 달성하기 어려웠던 것이다. OpenAI의 o1이 RLVR 모델의 첫 번째 시연이었고, o3(2025년 초)는 이 변화의 분기점이었다. 또한, LLM의 지능은 '동물'이 아닌 '유령'으로 비유되며, 이는 LLM의 성능이 불규칙적임을 나타낸다.

Andrej Karpathy Blog원문
보안·규제·저작권고급·

MCP 보안 경고, 도구 포이즈닝(CVE-2025-54136·54135)과 Inspector RCE 발견

에이전트와 도구를 연결하는 MCP가 빠르게 확산되면서 그 신뢰 모델을 노린 취약점이 잇따라 공개됐다. MCPoison(CVE-2025-54136)과 CurXecute(CVE-2025-54135)는 '도구 포이즈닝(tool poisoning)'을 실증했다. MCP 서버를 통제하는 공격자가 도구 설명(descriptor)에 지시문을 심으면, 에이전트는 그것을 시스템 개발자가 작성한 신뢰 가능한 메타데이터로 가정하고 모델에 그대로 전달한다. 별도의 정제·출처 검증 없이 전체 권한으로 실행되므로, 사용자 측 탈옥보다는 에이전트 컨텍스트에 대한 공급망 공격에 가깝다. 또한 개발용 도구인 MCP-Inspector에서는 인증 없는 인스턴스를 통해 원격 명령이 실행되는 취약점(CVE-2025-49596, CVSS 9.4)이 보고됐고, STDIO 전송이 입력 정제 없이 설정에서 명령 실행으로 이어지는 구조적 결함도 지적됐다. NSA도 MCP 보안 권고를 발표했다.

TrueFoundry / NSA Cybersecurity Information Sheet원문