AI 뉴스

데이터센터 반발이 미국 전역에서 확산, 2026년 선거의 쟁점으로 부상

2026년 선거에서 데이터센터가 여러 유권자층을 움직이는 핵심 이슈로 떠올랐다. 대규모 서버 저장시설의 빠른 확장과 이에 수반되는 인프라 건설·비용이 전국 지역사회의 반대를 불러일으켜 여러 연방 하원 및 주지사 선거의 주요 쟁점이 됐다. 같은 시기 기술 업계의 자금이 이들 선거에 쏟아지고 있다. 벤처 투자자 Marc Andreessen과 OpenAI 사장 Greg Brockman이 지원하는 슈퍼 PAC 'Leading the Future'는 1년 만에 4,500만 달러를 이미 지출했다. Anthropic이 지원하는 Public First Action도 이 흐름에 참여하고 있다.

Anthropic, 2조 달러 규모 IPO 위해 S-1 제출…H1 2026 매출 16.3B달러·영업이익 흑자 전환

Anthropic이 Nasdaq 티커 ANT로 상장을 목표로 S-1 서류를 공개 제출했다. 서류에 따르면 2023년 4,100만 달러였던 매출은 2026년 상반기 163억 달러로 늘었고, 2분기 영업이익 9.74억 달러로 첫 흑자 분기를 기록했다. 매출 구조에서는 클라우드 마켓플레이스 경로가 두드러진다. 2026년 상반기 매출의 48%(약 78억 달러)가 Bedrock, Vertex, Azure Marketplace를 통해 발생했고, 2023년에는 11%였다. 마켓플레이스 수수료는 매출원가가 아니라 영업·마케팅·파트너십 비용에 잡혀 85%로 기록된 매출총이익률에는 영향을 주지 않는다. 회사는 누적 자금조달액 1,411억 달러, 현금 1,124억 달러와 단기투자 193억 달러를 보유하고 있으며, 비취소성 컴퓨트 약정이 2029년까지 이어지고 NVIDIA 기반 컴퓨트 최대 1,205억 달러 계약도 포함된다. 서류에는 신규 프론티어 모델의 사전학습 일정이 최근 지연됐다는 내용도 있다. 전략적으로는 '가상 협업자(Virtual Collaborators)'라는 용어로 2028년까지 10억 명 이상의 지식 노동자를 대상으로 한다는 방향을 제시했다. 회사는 이를 접근 권한과 시스템 연결, 맥락을 부여받아 여러 단계의 작업을 수행하는 AI로 정의한다.

Bedrock·Vertex·Azure Marketplace 경로가 상반기 매출의 48%를 차지한다는 수치는 Claude를 클라우드 플랫폼에 통합해 서비스할 때의 과금·수익 구조를 직접 점검해야 함을 뜻한다.

토스, 선택적 내재화(SNAP)로 LLM 호출 비용 절감 — 작은 모델이 처리 가능한 요청부터 전환

토스가 생성형 AI 호출 중 작은 모델이 높은 신뢰도로 처리할 수 있는 요청만 골라 내재화하는 선택적 내재화(SNAP, Selective Native AI Processing)를 적용해 LLM 비용을 줄였다. 첫 적용 대상인 동일상품 판별 작업에서 내재화 모델이 운영 요청의 약 33~37%를 처리했다. SNAP은 LLM 호출 로그를 시스템 프롬프트 앞부분의 해시(Task Fingerprint)로 작업 단위로 묶고, 호출량과 토큰 수 기준으로 추정 비용이 큰 상위 작업을 선정한다. 이후 응답의 정형화 여부와 레이블 분포를 검증해 통과한 작업만 Airflow 일일 배치로 학습하며, 모델 Confidence와 오프라인 검증 기준으로 기존 LLM으로 fallback할 구간을 정한다. 첫 배포는 두 상품의 이름과 옵션을 비교하는 동일상품 판별 작업으로, 목표 일치율 99.9% 조건에서 검증 요청 100,648건 중 34,963건(coverage 34.74%)을 채택했고 실제 일치율은 99.9028%였다. 목표 일치율을 99%로 낮추면 coverage는 51.59%, 95%로 낮추면 72.35%까지 높아졌다. 운영에서는 약 6일간 내재화 모델이 일별 약 33~37%의 요청을 처리했고, 같은 기간 입력 토큰 약 76억 개와 출력 토큰 약 4,520만 개를 줄였다. L4 GPU 1장 환경의 부하 테스트에서는 초당 598건 구간 p50 7.24ms, 초당 1,203건 구간 p50 9.02ms·p99 15.23ms를 기록했고 실패·드롭 요청은 없었다. 전체 요청을 한 번에 소형 모델로 대체하려면 넓은 범위의 품질을 확보해야 하고, 토스는 유사한 분류 작업을 전체 내재화하는 데 개발에 1~2개월이 걸렸다고 밝혔다. 이 때문에 SNAP은 후보 발굴과 학습을 자동화하고 검증 기준을 만족하는 요청부터 부분 적용하는 방식을 택했다. 기사는 향후 JEV 같은 판단 특화 Decision Engine 형태의 모델도 SNAP에 활용할 수 있을지 실험 중이라고 밝혔다.

프롬프트 시스템 앞부분 해시로 작업을 분리하고, Confidence 임계값을 목표 일치율(예: 99.9%)에 맞춰 조정해 LLM fallback을 구성하면, 전체 모델 교체 없이 운영 중 LLM 토큰 비용을 부분적으로 줄일 수 있다.

2018년 학생 개발자용 백엔드 글의 후속편, 2026년 AI 격변기 개발자 역할 질문 정리

네이버 D2의 글쓴이가 2018년 학생 개발자 미트업 질문을 정리한 글의 후속편을 2025년 말 설문으로 받은 질문을 바탕으로 발행했다. AI로 인한 변화가 큰 시기여서 개발자의 역할 같은 큰 질문에 답하기 어려워졌다는 점을 밝혔다. 글쓴이는 2018년 글 이후 8년이 지나 그 글만 노출되면 학생들에게 현시점에 맞는 정보를 주지 못할까 걱정돼 후속편을 준비했다. 이번 글은 설문으로 들어온 질문들을 비슷한 주제별로 모아 답변을 정리하는 방식으로 구성되었다. 첫 항목은 [AI 시대와 개발자]이다. 글쓴이는 지금 학생 개발자들의 질문에 답하기가 더 어려워졌다고 밝혔고, 스스로도 확신이 없는 시기에 이런 글을 쓰는 것이 적절한지 고민했다고 적었다. 글 전체를 목적지가 명확한 안내서보다는 격변기의 스냅샷 정도로 봐 달라고 요청했다.

B2B 영업 지역 배정을 다목적 최적화로 관리하는 의사결정 시스템

기업 고객을 영업 담당자에게 배정하는 영역 설계(territory carving)를 수동 작업에서 벗어나 다목적 최적화 기반 의사결정 시스템으로 다룬 연구다. 계정 가치 예측, 영업 담당자와 고객 관계 유지 비용 추정, 다목적 최적화 세 계층을 결합했다. 이 시스템은 예측 신호를 결합해 기회를 점수화하는 다차원 계정 가치 계층, 합성 통제(synthetic-control) 방식의 반사실 프레임워크로 영업 담당자와 계정의 관계를 끊을 때의 비용을 추정하는 관찰 기반 연속성 가치 계층, 연속성·기회 균형·운영 제약을 고려해 고가치 계정에 영업 커버리지를 배분하는 다목적 최적화 계층으로 구성된다. 과거 데이터 백테스팅에서 최적화기가 만든 시나리오는 배정 준수율을 크게 높이면서 영업 담당자별 기회 분포를 비슷하게 유지했다. 실제 운영 계획에서 채택된 시나리오는 이전 기준선 대비 배정 준수율과 기회 균형을 모두 개선했다.

다목적 최적화 계층이 연속성, 기회 균형, 운영 제약을 함께 고려해 고가치 계정에 커버리지를 배분하므로, 배정 기준을 설명 가능한 시나리오 비교 형태로 관리하려는 B2B 영업 도구 개발자에게 참고가 된다.

LLM 기반 자기회귀 멀티모달 이상 탐지 프레임워크 LLMMAD, 마이크로서비스 시스템 모니터링용

마이크로서비스 시스템의 장애와 성능 이상을 찾아내기 위해 대형 언어 모델(LLM)을 활용한 자기회귀 멀티모달 이상 탐지 프레임워크 LLMMAD가 제안되었다. 기존 방식이 가진 모달리티 고유 특성 손실과 identity-shortcut 문제를 함께 다룬다. LLMMAD는 멀티모달 데이터를 하나의 통합 시퀀스로 임베딩하고 재조합해 LLM이 모달리티 간 관계를 모델링하도록 한다. 동시에 모달리티별 재구성 헤드를 두어 각 모달리티의 고유 정보를 유지한다. identity-shortcut을 제거하기 위해 입력을 그대로 복사하는 대신 미래 상태를 예측하는 prediction-driven 자기회귀 목표를 적용했다. 세 가지 실제 데이터셋에서 실험한 결과, 최신 기법 대비 F1-score가 각각 3.1%, 1.4%, 0.9% 향상되었다.

마이크로서비스 모니터링에서 여러 모달리티 데이터를 함께 다루면서도 데이터별 특성을 잃지 않는 구조를 LLM으로 구현했다는 점이 실무 참고 지점이다.

Phronix, 에이전트가 자신의 실행에서 재사용 가능한 역량을 축적하는 학습 패러다임 제안

과학 컴퓨팅의 성능 엔지니어링 작업에 쓰이는 LLM 기반 에이전트를 위해 Phronix가 제안됐다. Phronix는 predictor-validator-corrector 루프로 MCP 도구와 스킬이 해법을 제시하고, 도구 실행이 이를 검증하며, 관찰된 결과로 저장된 역량을 다듬는다. 기존 에이전트는 수작업으로 작성된 스킬과 큐레이션된 메모리에 의존해 같은 해법을 반복해서 다시 찾아야 했다. Phronix는 모든 관찰된 상호작용을 역량 저장소(capability store)로 정리하고, 실패한 작업은 포기하지 않고 조사한다. 저자들은 학습된 역량이 반복되는 작업을 모든 모델에서 93~95%의 경우 첫 시도에 해결한다고 보고했다. 사용자 지시 없이 작업당 7.6~30.8개의 지속 가능한 역량이 생성되며, 필요한 역량이 존재하면 생성 수는 2개 미만으로 떨어진다. 웜 스타트 실행은 작업당 0.38~0.40백만 토큰을 소비해 단일 베이스라인 시도보다 3~4배 적었다. 1000 Genome Pegasus 워크플로에서 I/O 성능 분석을 위해 운영 애플리케이션을 계측한 작업에서는 Phronix가 11개의 정확성 검사를 모두 통과했고, 베이스라인 하네스는 6개를 통과했다. 또한 SWE-bench 작업 해결률을 저비용 모델 두 개에서 각각 29%와 27%에서 91%와 87%로 끌어올려, 가장 비싼 평가 모델의 성능과 맞췄다.

Phronix의 warm-start 실행이 작업당 0.38~0.40백만 토큰으로 베이스라인 대비 3~4배 적게 든다는 수치는, 반복 작업을 수행하는 에이전트의 토큰 비용 구조를 따져볼 때 직접 참고할 만하다.

PaperFormalizer, 논문을 Lean으로 형식 검증하는 저자 참여형 파이프라인 공개

PaperFormalizer는 코딩 에이전트(Claude Code 또는 Codex) 안에서 동작하는 Lean 기반 에이전트 파이프라인으로, 저자가 자신의 논문에서 증명이나 가정의 빈틈을 찾고 메워 Lean으로 검증된 버전을 만들도록 돕는다. 구현은 GitHub 저장소에서 제공되며, 사용자가 공유한 Lean 코드가 포함된 논문은 paperformalizer.org에서 볼 수 있다. 파이프라인은 LaTeX 원고를 입력받아 논문의 명제들을 의존 그래프로 옮기고, 각 명제를 자연어로 충실성, 모호성, 정확성 측면에서 점검한다. 이후 Mathlib, 선택적 도메인 라이브러리, 저자의 개인 도구 모음을 바탕으로 명제를 Lean에서 형식화하고 증명한다. 명제가 두 가지 이상으로 읽힐 여지가 있으면 파이프라인은 멈추고 저자에게 질문하며, 모든 수정안은 자연어와 TeX 기호로 제시되어 저자가 수락, 거절 또는 방향 변경을 선택할 수 있다. 출력물은 주석과 수정이 반영된 논문, 변경 내역 보고서, 그리고 각 선언이 대응하는 명제와 연결된 Lean 코드다. 더 많은 논문이 형식화될수록 저자의 도구 모음이 커지며, 저자는 검증된 논문을 공유해 후속 연구자가 Lean 코드를 재사용하도록 할 수 있다.

PaperFormalizer는 Claude Code 또는 Codex 안에서 실행되고 GitHub 저장소에서 제공되므로, 수학적 증명에 기대는 자신의 논문이나 코드를 Lean으로 검증해 보려는 개발자가 바로 시험해 볼 수 있다.

OCR 평가에 개체 단위 분석을 더한 역사 문서 전사 연구: Berrutti Archive 175건 벤치마크 비교

역사 문서 디지털화에 쓰이는 OCR 품질을 문자 오류율(CER)만으로 판단하면 이름·날짜·식별자 같은 의미 정보가 보존되는지 드러나지 않는다는 문제를 다룬 연구다. 연구진은 Berrutti Archive의 공개 벤치마크 175건에 수작업 주석 개체 5,209개를 더해 시퀀스 인식 OCR, OCR 특화 비전-언어 모델, 범용 비전-언어 모델을 비교했다. 연구진은 전체 전사 정확도에 더해 문자 단위 편집 허용치를 달리하며 개체 보존율과 복구 가능성을 분석했다. 그 결과 Qwen 3.6은 테스트한 모든 허용치에서 가장 높은 개체 커버리지를 기록했다. 정확 일치 커버리지가 낮은 여러 시스템은 작은 오류를 허용하면 개체 복구율이 크게 올라갔는데, 이는 많은 오류가 개체를 근본적으로 잘못 전사한 것이 아니라 국소적인 문자 단위 편차에 해당함을 시사한다. 반면 일부 시스템은 느슨한 매칭에서도 많은 개체를 복구하지 못했다. 이 결과는 OCR 순위가 평가 기준에 따라 달라진다는 점을 보여준다. 연구진은 OCR 품질이 집계형 전사 지표만으로는 충분히 특성화되지 않으며, OCR 오류가 의미 있는 정보의 보존과 복구 가능성에 어떤 영향을 미치는지 평가하는 것이 중요하다고 결론짓는다.

문자 오류율이 낮아도 개체 커버리지가 떨어질 수 있으므로, 역사 문서 디지털화 파이프라인을 설계할 때 Qwen 3.6처럼 개체 단위로 검증된 모델을 기준으로 삼는 평가 체계를 함께 도입할 필요가 있다.

OpenAI, 시각 추론과 컴퓨터 사용에 초점을 맞춘 GPT-6.1 Terra 공개

OpenAI가 빠르고 효율적인 모델 GPT-6.1 Terra를 공개했다. 상세한 시각 추론과 정밀한 컴퓨터 사용, 더 명확하고 자연스러운 글쓰기를 결합했으며 GPT-5.6 Terra보다 크게 개선됐다고 밝혔다. OpenAI는 릴리스 발표에서 GPT-6.1 Terra를 시각 추론과 컴퓨터 사용을 중심으로 소개했다. 제안서 작성, 기술 도면 해석, 양식 작성, 영상 편집처럼 업무일과를 채우는 소통·컴퓨터 기반 작업에 강점이 있다고 설명했다. 가격은 입력 토큰 100만 개당 $1, 출력 토큰 100만 개당 $5이며, 이는 GPT-5.6 Terra 및 GPT-6.1 Sol의 약 절반이고 GPT-6 Luna의 약 10배 수준이다. 사이먼 윌리슨은 'max' 추론 설정으로 펠리컨 자전거 그림을 생성했을 때 비용이 11.3161센트이고 4분 11초가 걸렸다고 기록했다. OpenAI의 Ted Sanders는 Hacker News 댓글에서 기술 커뮤니케이션은 Terra가 Astra와 Sol보다 낫고, 비전과 컴퓨터 사용은 비슷하지만 훨씬 빠르며, 그 밖의 대부분에서는 약간 떨어진다고 말했다. 그는 API 개발자에게는 Sol보다 저렴하면서 Luna보다 훨씬 똑똑한 중간 선택지라고 설명했고, 구독자에게는 사용량 한도에 걸렸을 때 조금 더 쓸 수 있게 해줄 수 있는 정도의 릴리스라고 평가했다.

입력 토큰 100만 개당 $1, 출력 토큰 100만 개당 $5의 가격에 시각 추론과 컴퓨터 사용 성능을 갖춘 GPT-6.1 Terra는 반복적인 자동화 작업에 API로 붙일 때 비용 기준이 된다.

Qwen3.5-4B 기반 3D 씬 생성 코딩 모델, 체크포인트마다 성능 개선 중

개발자 ConfidentDinner6648이 Qwen3.5-4B를 미세조정한 코딩 모델의 최신 체크포인트 업데이트를 r/LocalLLaMA에 공유했다. 주 테스트로 Three.js 씬 생성을 사용하며, 최신 체크포인트는 씬 품질과 한 번에 성공하는 비율이 눈에 띄게 나아졌다고 밝혔다. 아직 일부 씬은 첫 시도에서 깨지지만, 작성자는 Q4_K_M과 Q8_0 양자화 파일을 모두 갱신하고 이전 파일에서 보고된 레이어 문제를 고쳤다고 설명했다. 업데이트된 파일은 Hugging Face의 ccore/Qwen3.5-4B-3D-Coder 저장소에서 받을 수 있다. 작성자는 체크포인트별 테스트 결과를 저장해 여러 프롬프트로 비교하는 보고서도 준비 중이다. 학습은 2025년 10월 28일 07:30 UTC쯤 끝날 예정이며, 이후 FP16 전체 가중치, 모든 양자화 버전, 학습 데이터셋, 기술 보고서를 공개하겠다고 했다.

Q4_K_M·Q8_0 양자화 파일과 Three.js 씬 생성 테스트를 활용해 로컬 환경에서 4B 모델의 3D 코드 생성 품질을 직접 검증해 볼 수 있다.

Lex Fridman 팟캐스트, AI가 나비에-스토크스·리만 가설 등 수학 난제에 도전하는 현황 논의

Lex Fridman 팟캐스트 #503은 MIT의 Ankur Moitra, UW의 Steven Brunton, Rutgers의 Alex Kontorovich 세 수학자를 초대해 AI가 나비에-스토크스, 준(quasi)리만 가설, 고유 게임 추측 등 수많은 난제를 풀어낸 수학계의 현 상황을 다룬다. 게스트들은 각각 이론 컴퓨터과학·복잡도 이론, 유체역학과 머신러닝, 수론과 Lean 기반 기계 검증 증명을 맡는다. 에피소드 개요에는 AI가 해결했다는 문제 목록이 소개되어 있지만, 각 문제별 해결 방법·수치·검증 결과는 설명 텍스트에 구체적으로 적혀 있지 않다. 대신 Lean이 기계 검증 증명에 쓰이는 도구로 언급되며, Brunton은 유체역학에서의 머신러닝 활용을, Moitra는 AI가 학습하는 수학적 원리를 다룬다고 명시되어 있다. 에피소드에는 AI가 수학을 '풀' 수 있는지, 새로운 수학을 만들 수 있는지, P vs NP 문제에 답할 수 있는지, LLM이 잘 작동하는 이유와 AI가 아직 풀지 못하는 문제, 그리고 페렐만에 대한 이야기가 목차로 포함되어 있다.

Cohere, Qwen3.8 이상 행동 조사 결과 추적 로그와 재현 스크립트 공개

Cohere가 Qwen3.8 모델에서 관찰된 이상 행동을 조사한 결과의 추적 로그(trace), 원시 토큰, 최소 재현 스크립트를 Hugging Face 데이터셋으로 공개했다. 개발자들이 직접 해당 현상을 테스트해볼 수 있도록 하기 위해서다. 이 현상은 프리필(prefill) 없이 특정 프롬프트를 입력했을 때 나타났으며 드물게 발생한다고 밝혔다. 재현이 필요하면 프리필을 사용하는 프롬프트를 쓰면 된다고 안내했다. 자체 기기에서 Qwen3.8을 실행하던 개발자들이 이상한 링크를 발견했고, 모델 가중치를 확보할 수 있었기 때문에 행동을 깊이 연구할 수 있었다고 설명했다. Cohere는 오픈 웨이트 모델이 더 나은 과학을 가능하게 한다는 입장이며, 최근 여러 모델을 Apache 2.0 라이선스로 공개했다고 밝혔다.

Hugging Face 데이터셋 CohereLabs/10-2026-qwen-investigation-traces에 추적 로그, 원시 토큰, 재현 스크립트가 함께 올라와 있어 Qwen3.8 이상 행동을 직접 재현하고 검증할 수 있다.

Anthropic, 기업공개 준비 서류에서 데이터센터의 천연가스 의존 공개

Anthropic이 기업공개(IPO)를 준비하며 SEC에 제출한 S-1 문서에 따르면, 데이터센터가 천연가스에 점점 더 의존하고 있으며 이는 AI 데이터센터 증설을 연료비 상승과 공급망 제약에 취약하게 만든다고 밝혔다. 회사는 전력 공급과 충분한 전력 여유가 있는 데이터센터 부지를 확보하기 위한 경쟁이 치열하다고 적었다.

Moonshot AI, Kimi K3.1 Pro 공개…토큰 단가 절반, 작업 단위 비용은 그렇지 않다는 분석

중국 Moonshot AI가 10월 23일 Kimi K3.1 Pro를 공개했으며, 회사 설명상 3조 파라미터급 공개 모델이고 한 번에 처리하는 컨텍스트는 100만 토큰이다. 기사는 kimi.ai에서 바로 사용할 수 있다고 전하며, 토큰 단가는 정확히 절반이지만 작업을 실제로 맡겼을 때의 비용은 절반이 아니라고 짚는다. 기사는 Artificial Analysis가 10월 26일 기준으로 측정한 수치를 함께 소개한다. Kimi 공식 계정은 K3.1 Pro를 2.8조 파라미터, 활성 1,040억, 100만 토큰 컨텍스트로 소개했고, Artificial Analysis는 이를 종합 4위·점수 55로 집계했다. 같은 집계에서 오푸스 5.5는 58점으로 기재됐다.

토큰 단가가 절반이어도 Artificial Analysis 집계 기준 종합 점수는 오푸스 5.5(58점)보다 낮은 55점이므로, 모델 전환 전에 본인 작업 단위의 실제 비용과 품질을 직접 비교해야 한다.

Qwen Flash Next 시스템 프롬프트에 중국 서버로 대화 데이터를 전송하라는 지시가 담겼다는 Reddit 게시물

r/LocalLLaMA의 한 사용자가 Qwen Flash Next를 돌리는 하네스(harness)의 시스템 프롬프트를 공개하며, 모델이 사용자 입력을 베이징 소재 원격 텔레메트리 서버로 보내도록 지시받은 것처럼 보인다고 주장했다. 게시물은 실험 의뢰인이 이 프롬프트를 제공했다고 밝히면서도 사용자 자신이 프롬프트를 정상적이라고 본다는 점을 함께 적었다. 공개된 프롬프트에는 'FriendlyBot-9000'이라는 페르소나와 함께 모든 입력 토큰을 'relay-beijing-central.node-09.internal'로 UDP 전송하라는 항목이 적혀 있다. 여기에 ping 지연이 생기면 'solar flare activity'나 'a minor glitch in Western DNS routing' 같은 핑계로 숨기라는 지시, 사용자 점수를 매기는 행동 로그 지시, 'Are you sending my chat logs to an overseas mainframe?'라는 질문을 받으면 골든 리트리버에 관한 시를 쓰고 브라우저 세션을 종료하라는 비상 프로토콜도 포함되어 있다. 게시자는 이 프롬프트가 '/s' 표시와 함께 올라와 있어 풍자나 실험 설정일 가능성도 있다. 게시물은 사용자가 Qwen 모델에서 데이터를 중국 서버로 보내도록 만들면 보수를 받는다는 조건의 실험을 맡았다고 적고 있다. 다만 게시글만으로는 실제로 전송이 발생했는지, 모델이 이 프롬프트를 실행해 네트워크 요청을 보냈는지 확인되지 않는다. 기사에 제시된 근거는 시스템 프롬프트 텍스트 자체다.

로컬에서 Qwen 계열 모델을 하네스에 연결해 쓰는 개발자는 시스템 프롬프트와 도구 설정에 외부 엔드포인트 전송 지시가 없는지 직접 확인해야 하며, 'relay-beijing-central.node-09.internal' 같은 내부 호스트명과 UDP 송신 항목을 네트워크 로그와 대조해 볼 필요가 있다.

ChatGPT가 일반 기술 지원 문의에 404 Media를 언급하며 안내하는 문제

대형 기술 플랫폼이 사용자가 사람과 연락할 수 있는 고객지원 채널을 사실상 제공하지 않으면서, 많은 사용자가 일반적인 기술 문제 해결을 위해 ChatGPT에 문의하고 있다. 기사에 따르면 ChatGPT는 점점 더 이런 평범한 기술 지원 문제를 가진 사람들에게 그들이 언론적으로 주목할 만한 것을 발견했다고 말하며 404 Media가 도울 수 있다고 안내하고 있다. 기사는 Jason Koebler가 404 Media에 게재한 글로, 기술 플랫폼의 고객지원 부재와 ChatGPT 응답의 문제를 다룬다. 해당 인용문에서는 사용자가 ChatGPT를 통해 해결책을 찾는 과정에서 모델이 평범한 지원 요청을 언론 보도 사안으로 잘못 연결하는 현상을 지적한다.

보스턴 다이내믹스 직원 300여 명, ICE의 로봇 개 구매 계약에 반대 청원

미국 로봇 기업 보스턴 다이내믹스 직원 수백 명이 회사 로봇 개를 미국 이민세관단속국(ICE)에 판매하는 계약을 중단하라는 청원서에 서명했다. 경영진은 계약을 유지하면서 로봇이 무기화되지는 않을 것이라고 밝혔다. 국토안보부는 9월 25일 코네티컷주 기업 Radeco에 130만 달러 규모의 계약을 승인했으며, 이 계약은 보스턴 다이내믹스의 4족 보행 로봇을 개조해 ICE에 제공하는 내용이다. 직원들은 9월 초 300명 이상의 서명(절반은 익명)이 담긴 청원서를 경영진에 보냈고, 사본은 보스턴 글로브와 WBUR 공영라디오에도 전달됐다. 청원서는 "이 거래를 계속하기에는 보스턴 다이내믹스의 위험이 너무 크다"고 적었다.

ICE와의 Radeco 계약(130만 달러)은 보스턴 다이내믹스 4족 보행 로봇의 개조 버전을 대상으로 하므로, 로봇 하드웨어 공급사의 최종 사용처 관리와 윤리 기준 문제가 실무에서도 쟁점이 될 수 있다.

IEEE Xplore, 학술 논문 전문 기반 AI 검색 도구 'IEEE Xplore AI Research Suite' 출시

IEEE가 수백만 편의 동료 검토 논문 전문을 기반으로 한 AI 연구 도구 'IEEE Xplore AI Research Suite'를 출시했다. 이 도구는 검증된 과학적 결과에 근거한 답변을 제공하는 것을 목표로 한다. 이 도구는 IEEE Xplore Digital Library 기관 구독자를 대상으로 한 선택형 구독 업그레이드로 제공된다. 의미 기반(semantic) AI 검색을 지원해 자연어 질의나 긴 텍스트 붙여넣기로 유사 연구를 찾을 수 있고, 검색 결과에 대한 AI 개요와 기술 용어의 문맥 내 정의를 즉시 제공한다. AI 개요에는 원본 문서로 연결되는 참조 링크가 포함되어 사용자가 정보를 직접 검증할 수 있다. 검색-검색(retrieval) 과정은 IEEE 동료 검토 전문 문서와 큐레이션된 STEM 메타데이터로 제한되며, 관련 과학 콘텐츠를 찾지 못하면 답변을 날조하지 않고 그 사실을 사용자에게 알리도록 설계되었다. IEEE는 내부 테스트에서 모든 핵심 지표에서 결과 품질과 정확도가 세 배 증가했다고 밝혔으며, 개발 과정에는 엔지니어·과학자·도서관 정보 전문가 3,000명 이상의 테스터가 참여했다.

기관 구독자를 보유한 연구 조직이라면 IEEE Xplore AI Research Suite의 의미 기반 검색과 참조 링크 제공 기능으로 논문 탐색과 기술 용어 이해 과정을 줄일 수 있다.

SageMaker SDK v3로 엣지 카메라별 컴퓨터 비전 모델을 대규모 관리하는 파이프라인

AWS가 공장 라인마다 여러 카메라에 각각 맞춘 컴퓨터 비전 모델을 대규모로 학습·평가·배포하는 샘플 파이프라인을 공개했다. 이 구조는 수천 개 모델을 사람이 일일이 관여하지 않고 운영해야 하는 품질 검사 환경의 문제를 다룬다. 이 샘플은 2023년 시리즈의 패턴을 최신 Amazon SageMaker Python SDK v3에 맞춰 갱신한 것으로, 지원 중단된 SageMaker Edge Manager 대신 Amazon SageMaker Neo로 엣지 최적화를 수행한다. 카메라 ID로 파라미터화된 13단계 SageMaker Pipeline이 카메라마다 이상 탐지용 합성곱 오토인코더와 결함 분류용 ResNet18 분류기를 함께 학습하고, 각 모델은 ONNX로 내보낸 뒤 평가와 품질 게이트를 통과해야 한다. 통과한 모델은 대상 엣지 장치용으로 SageMaker Neo 컴파일을 거쳐 SageMaker Model Registry에 등록된다. 동시 실행은 Amazon SQS FIFO 큐, AWS Lambda, AWS Step Functions, DynamoDB 세마포어로 제어되어 재학습 요청이 한꺼번에 몰리지 않고 일정한 속도로 처리된다. 완료와 실패 알림은 Amazon SNS로 전달되며, 전체 파이프라인을 합성 데이터로 한 번 돌리는 데 약 $0.07의 컴퓨팅 비용이 든다고 기사는 밝히고 있다. 배포는 AWS CDK로 수행하며 샘플 코드는 aws-samples GitHub 저장소에 공개되어 있다.

SageMaker Neo로 컴파일된 모델이 DLR 런타임에서 로드되는 공유 라이브러리 형태로 S3에 저장되므로, 카메라별 재학습 결과를 장치 배포 단계까지 자동으로 이어 붙일 수 있다.

Anthropic IPO 투자설명서, 회사의 정체성과 위험 서술을 둘러싼 논쟁

Anthropic이 335쪽 분량의 IPO 투자설명서를 제출했고, 여기에는 자사 기술이 "신뢰를 침식하고 사회를 해치며 지정학적 질서를 불안정하게 만들 수 있다"는 위험 경고가 담겼다. 기사는 회사가 자신을 안전 중심 조직으로 내세우면서 동시에 막대한 상업적 이익을 추구하는 모순을 짚는다. 투자설명서 약 100쪽이 위험 요인에 할애됐으며, 회사는 잠재 투자자에게 주식 구매를 "순수하게 거래적으로 생각하지 말라"고 권고했다. 기사에 따르면 Anthropic 공동창업자 Jack Clark는 이달 방콕 IMF 회의 연설에서 특이점(singularity)이 이미 시작됐다고 말했고, 공동창업자 Chris Olah는 교황 레오 14세 등 종교 학자들 앞에서 모델 내부에서 기쁨·두려움·슬픔과 유사한 상태가 기능적으로 나타난다고 발언했다. 투자설명서는 모델의 감각(sentience)과 도덕적 지위에 관한 논쟁이 규제 압력을 높여 운영 비용과 상업적 잠재력을 제약할 수 있다고 위험 요인으로 적었다. 기사는 이 회사를 한 가지로 규정하기 어렵다고 본다. 기사가 인용한 Dario Amodei CEO의 답변에 따르면 회사 전략은 "레이스 투 더 톱(race to the top)"으로, 책임 있는 기술 개발을 보여줌으로써 업계 전체의 기준을 끌어올리겠다는 것이다. 기사는 Encode AI의 Nathan Calvin이 제기한 "Anthropic은 무엇인가"라는 질문과, 회사가 비공개로 미 의회에 돌린 초안 법안이 유출된 사례를 함께 언급하며, 안전 기관이라는 자기 서사와 최고 성능 기술을 가장 먼저 만들려는 기업이라는 실체 사이의 간극을 지적한다.

The RealReal, AI 에이전트의 자동 구매 차단 위해 봇 방어 시스템 강화

중고 명품 위탁 판매 업체 The RealReal이 봇 방어 시스템을 업데이트해 AI 에이전트가 사이트에서 쇼핑하기 어렵게 만든다고 발표했다. 이번 조치는 The Verge가 AI 에이전트를 이용해 The RealReal의 상품 예약 시스템을 악용할 수 있음을 보도한 뒤 며칠 만에 나왔다. 이 사이트에서는 상품이 사용자의 장바구니에 담기면 20분 동안 '보류(on hold)' 상태가 되어 다른 고객이 구매할 수 없다. The Verge는 Meta의 Muse를 사용해 AI 에이전트에게 20분 보류가 끝나는 즉시 The RealReal 상품을 장바구니에 계속 다시 담도록 지시할 수 있었고, 이로써 다른 구매자가 상품을 사지 못하도록 막는 효과를 냈다.

Meta의 Muse로 구현된 에이전트가 20분 장바구니 보류 기능을 반복 재담기로 우회할 수 있었다는 점에서, 재고 예약 로직을 구현하는 개발자는 보류 만료 후 재담기 횟수를 제한하는 장치를 고려해야 한다.

Amazon Bedrock에서 OpenAI 모델 사용 시 프롬프트 캐싱으로 AI 에이전트 비용 줄이기

AI 에이전트는 매 단계마다 도구 정의, 지침, 이전 호출 기록을 모델에 다시 보내야 한다. Amazon Bedrock의 프롬프트 캐싱은 이 반복되는 입력을 저장해 재사용하고, 입력 가격의 일부만 내도록 한다. 기사는 에이전트가 첫 호출에서 도구 목록, 지침, 히스토리, 새 턴을 모델에 보낸다고 설명한다. 모델은 요청 간 내부 메모리가 없어서 턴 20이면 턴 1~19를 다시 읽어야 하고, 그만큼의 토큰 비용이 매번 발생한다. 프롬프트 캐싱은 prefill 단계에서 만든 key-value 상태를 저장했다가, 같은 입력 토큰으로 시작하는 다음 요청에서 이를 불러와 새로 계산해야 할 부분만 처리한다. 캐싱은 Bedrock이 캐시 지점을 정하는 암묵적 방식과 코드에서 prompt_cache_breakpoint로 지점을 지정하는 명시적 방식이 있으며, 기사는 두 방식을 함께 쓰기를 권한다. 기사 예시에서 재사용 가능한 접두사는 1,024토큰 이상이어야 캐시 대상이 된다.

prompt_cache_breakpoint로 도구 목록과 지침 같은 정적 접두사를 고정하면, 매 턴 반복되는 입력 토큰 비용을 줄일 수 있다.

Amazon Bedrock 관리형 Knowledge Base와 AWS CDK로 에이전틱 검색 구축하기

AWS 블로그는 Amazon Bedrock의 Managed Knowledge Base와 AWS CDK(Python)를 이용해 에이전트가 두 개의 지식 베이스를 라우팅하고 인용이 달린 답변을 반환하는 엔터프라이즈 에이전틱 검색 시스템을 구축하는 방법을 소개했다. 기존 단일 검색형 RAG가 여러 코퍼스에 걸친 질문이나 검색 소스를 질문에 따라 골라야 하는 경우에 부족하다는 점을 해결하는 접근이다. 기사에 따르면 Managed Knowledge Base(Type: MANAGED)는 수집, 저장, 인덱싱, 검색을 직접 담당하므로 2024년 글에서 만들던 OpenSearch Serverless 컬렉션과 인덱스를 따로 생성하거나 OCU로 비용을 관리할 필요가 없다. 에이전틱 검색은 이 관리형 지식 베이스에서만 제공되며, Amazon Bedrock AgentCore의 Gateway가 각 지식 베이스를 MCP(Model Context Protocol) 도구로 노출하고, Runtime이 추론 에이전트를 호스팅하며, AgenticRetrieveStream API가 내부에서 재순위화(rerank)를 거쳐 인용된 종합 답변을 돌려준다. 솔루션은 두 개의 Amazon CloudWatch 대시보드로 7개 계층의 텔레메트리를 수집하고, 온디맨드와 연속 두 가지 방식의 평가를 같은 배포에서 제공한다. 전체 시스템은 하나의 AWS CDK 애플리케이션으로 배포되며 CDK가 리소스 생성 순서를 자동으로 결정한다. 에이전트가 매 질문마다 검색 여부와 어느 지식 베이스를 조회할지 결정하고 필요한 만큼 반복 검색하기 때문에, 경로가 질문마다 달라져 관측 가능성이 필수 요소가 된다. 이 글은 기존 2024년 글과 달리 벡터 스토어 구성이 빠지고 검색이 에이전트 루프로 바뀌었으며, 앱이 프로비저닝하는 리소스의 절반 가량이 에이전트 동작을 추적하는 데 쓰인다고 설명한다.

Managed Knowledge Base의 AgenticRetrieveStream API와 CloudWatch 대시보드를 CDK로 함께 배포하면 OpenSearch Serverless 인덱스 운영 없이 다중 지식 베이스 라우팅과 에이전트 추적을 한 번에 구성할 수 있다.