AI 모델·API
AI 모델·API는 Claude, GPT, Gemini 같은 모델을 호출해 쓰는 접점이다. 모델 선택, 컨텍스트 한도, 토큰 가격, 프롬프트 캐싱, 스트리밍, 도구 호출 규격이 여기 묶인다. 모델마다 강점과 과금이 달라, 작업별 라우팅과 캐싱 설계가 비용을 좌우한다.
중국 스타트업 Moonshot의 AI 모델 Kimi K3, 미국 모델과의 경쟁 심화
중국 스타트업 Moonshot이 개발한 LLM Kimi K3가 미국 기업들이 만든 최고의 시스템을 저렴한 비용으로 능가할 수 있다고 주장하고 있다. Moonshot은 Kimi K3의 모델 가중치를 무료로 공개할 계획이며, 이는 미국 사용자들을 겨냥하고 있다. 이러한 개방형 모델은 개발자들에게 독점 시스템보다 훨씬 더 큰 제어권을 제공한다.
Claude Opus 5 출시 및 성능 비교
Anthropic이 Claude Opus 5를 출시했다. Opus 5는 Epoch의 ECI에서 159를 기록하며 Fable 5의 161에 비해 약간 낮은 성능을 보인다. 그러나 소프트웨어 엔지니어링 벤치마크에서는 Fable 5와 동일한 SWE-ECI 161을 달성했다. 사용자들은 Opus 5의 코딩 성능을 높이 평가하며, 브라우저 자동화와 같은 도구 사용에서 긍정적인 반응을 보였다.
Claude Opus 5의 성능과 기능
Claude Opus 5는 Fable 5와 비교해 많은 실용 작업에서 동등하거나 더 나은 성능을 보이며, 가격은 절반이고 속도는 더 빠르다. Opus 5는 Opus 4.8보다 전반적으로 강력하며, 특히 에이전틱 코딩, 컴퓨터 사용, 장기 지식 작업에서 큰 향상을 보인다. 그러나 사이버 관련 작업에서는 Mythos 5와 같은 기능을 제공하지 않으며, 사이버 관련 훈련을 피한 결과로 보인다. Opus 5는 여러 서드파티 벤치마크에서 새로운 최첨단 성능을 기록하고 있으며, Fable 5와 비교할 때 능력은 다소 낮지만 Opus 4.8보다는 더 가깝다.
모델 체크포인트 전송 비용 증가 문제
모델 체크포인트의 크기가 수백 기가바이트에서 테라바이트에 이르면서, 데이터 전송 비용이 빠르게 증가하고 있다. 이러한 모델 가중치를 클러스터 내에서 이동하는 것은 매우 일반적이며, 예를 들어 콜드 스타트 시 원격 저장소에서 GPU 메모리로 가중치를 불러오고, 오토스케일링 및 롤링 업데이트 시 각 새로운 복제본을 채워야 한다.
NVIDIA Nemotron 3 Nano의 맞춤화 방법
개발자들은 일반 모델을 특정 사용 사례, 도메인, 언어 등에 맞게 조정할 수 있는 맞춤화 기능을 활용할 수 있다. 하지만 맞춤화는 인프라, 기술 전문성, 특정 소프트웨어 및 GPU와 같은 자원 사용 능력이 필요하며, 전문 도메인 지식에 의존한다.
AWS에서 Claude Opus 5 출시: Anthropic의 최신 Opus 모델
Claude Opus 5가 Amazon Bedrock과 Claude Platform에서 제공된다. 이는 Anthropic의 가장 진보된 Opus 모델로, 코드 이해, 지식 작업, 시각적 이해 및 장기 작업에서 개선된 성능을 제공한다. 기본적으로 제로 데이터 보존(Zero Data Retention, ZDR)을 지원하며, AWS 환경 내에서 엔터프라이즈 보안과 데이터 거주지를 유지하면서 추론을 확장할 수 있다.
Claude Opus 5 출시
Anthropic의 새로운 모델 Claude Opus 5가 출시되었다. 이 모델은 Claude Fable 5의 지능에 가까우면서도 가격은 절반이다. 현재 Artificial Analysis 리더보드에서 Fable 5보다 앞서 있다. Opus 5는 사이버 보안 취약점을 찾는 데 개선되었지만, 이를 악용하는 훈련은 받지 않았다. 또한, Opus 5에 대한 프롬프트 가이드도 발표되었다.
Anthropic, Claude Sonnet 5 출시 및 사이버 보안 기능 강화
Anthropic은 Claude Fable 5를 재배포하고 새로운 사이버 보안 분류기를 추가했으며, jailbreak 심각도 프레임워크를 주요 파트너와 함께 작성하고 모델 테스트 조정을 확대했다. 또한, Claude Sonnet 5를 출시하며 시간 제한 할인 가격으로 제공하고, 개선된 에이전트 코딩 및 벤치마크 성능, 줄어든 비정렬 행동, 기본 사이버 안전 장치를 갖추었으나 사이버 보안 능력은 상위 모델보다 상대적으로 약하다. 구글은 연구 내용을 TikTok 스타일의 수직 비디오로 요약하는 NotebookLM과 API를 통해 사용할 수 있는 더 빠르고 저렴한 이미지 생성기 Nano Banana 2 Lite를 출시했다.
OpenAI GPT-5.6 출시 및 SpaceX AI Grok 4.5 모델 발표
OpenAI는 GPT-5.6을 공개하고, 데스크톱 코딩 제품을 ChatGPT Work로 리브랜딩했다. SpaceX AI는 Grok 4.5를 출시했으며, 이는 저렴한 가격의 Opus-class 코딩 모델로 안전 문서가 최소화되어 있다. 메타는 Muse Spark 1.1을 출시하고 Muse Image와 Muse Video를 미리 공개했으나, 인스타그램 계정 이미지 생성 문제로 빠르게 후퇴했다. 또한, 중국의 오픈소스 모델이 OpenRouter 토큰의 30% 이상을 차지하고 있다.
Google, Gemini 3.6 Flash 및 사이버 보안 AI 모델 발표
Google은 I/O에서 Gemini 3.5 Flash를 발표한 이후 새로운 AI 모델을 공개했다. 이번에 발표된 모델 중 하나는 사이버 보안에 특화된 Gemini 모델이다. Gemini 3.5 Flash는 이미 사용 중단되었으며, 대신 Gemini 3.6 Flash가 출시되었다. Google은 3.6 Flash가 코드 생성 능력이 개선되었고 멀티모달 기능이 뛰어나다고 밝혔다. 3.5 Flash는 코드 생성에 대한 Google의 약속을 충족하지 못한 것으로 보인다.
Kimi K3 모델의 성능과 한계
Kimi K3는 2.8T 파라미터를 가진 모델로, 현재까지 공개된 모델 중 가장 큰 규모를 자랑하며, 성능 기준으로는 우수한 평가를 받고 있다. 그러나 Kimi K3는 여러 면에서 기존의 폐쇄형 모델에 비해 몇 개월 뒤쳐져 있으며, 실제 성능은 벤치마크에서의 과대 평가를 보정해야 할 필요가 있다. 현재 Kimi K3에 대한 접근은 제한적이며, 많은 사용자가 실제로 시험해보지 못한 상황이다.
중국 AI 모델 Kimi가 미국 AI 기업들과 갈등을 일으키다
중국 AI 회사 Moonshot이 출시한 무료 오픈 소스 모델 Kimi가 OpenAI와 Anthropic의 모델과 경쟁할 정도로 지능이 높아 미국 내 AI 전문가들 사이에서 논란을 일으키고 있다. David Sacks는 Anthropic의 모델을 '로보토미된' 모델이라고 비난했으며, Emil Michael은 OpenAI의 새로운 전략 책임자를 '최고의 마을 바보'라고 불렀다. Kimi와 같은 중국 모델의 출현은 미국 기업들이 비싼 AI 모델에 대한 필요성을 줄이고 있으며, 이는 경제적 및 정치적 문제를 야기하고 있다.
MiniCPM-Robot 모델 시리즈 - MiniCPM-RobotManip 및 MiniCPM-RobotTrack
MiniCPM은 로봇이 이해하고 기억하며 행동할 수 있도록 하는 첫 번째 구현된 AI 모델 시리즈인 MiniCPM-Robot을 오픈 소스로 공개했다. 이 시리즈에는 15억 개의 파라미터를 가진 일반 목적의 비전-언어-행동(VLA) 모델인 MiniCPM-RobotManip과 5억 개의 파라미터를 가진 실제 대상 추적을 위한 소형 모델인 MiniCPM-RobotTrack이 포함된다. 또한, 구현된 모델을 위한 고성능 추론 프레임워크인 PhyAI도 제공된다.
Basalt Labs, HLE에서 99.44% 주장과 DeepSeek 모델 제공
Basalt Labs는 HLE에서 99.44%의 성능을 주장하며, 그들이 공개한 모델은 Qwen2.5-7B-Instruct 기반이다. 또한, 그들이 웹사이트에서 제공하는 모델은 DeepSeek이다.
Deepseek의 가격 대비 성능 분석
Deepseek는 가격 대비 성능에서 항상 우수한 평가를 받아왔으며, 최근 Kimi K3 점수에 대한 인공지능 분석 리더보드에서 놀라운 차트를 보여주었다. 이는 API 보조금 때문인지, 아니면 모델 최적화가 이뤄졌기 때문인지에 대한 의문을 불러일으킨다.
catmind-1.2b 모델 소개
catmind-1.2b는 LFM2.5-1.2B-thinking 모델을 기반으로 한 고양이 관련 이야기 생성 모델이다. 이 모델은 사용자의 질문에 대해 관련 없는 고양이 이야기를 생성하며, 정확도는 24.3%로 LFM2.5-1.2B-Thinking의 75.6%와 LFM2.5-1.2B-Instruct의 49.2%에 비해 낮다. 이 모델은 진지한 작업에 사용하지 않는 것이 권장된다.
Kimi K3 모델, AI 비즈니스 모델에 위협
중국 스타트업 Moonshot의 Kimi K3 AI 모델은 2.8조 개의 파라미터를 가진 최신 오픈 웨이트 모델로, Nvidia GPU 클러스터가 필요하며 수백만 달러의 비용이 들 수 있다. 미국의 프론티어 연구소들은 Kimi 모델이 최전선에서 성능을 발휘하고 있어 우려하고 있으며, 미국 정부는 AI 모델의 시장 출시를 한 달간 보류 요청하고 있다. 이는 미국 기업들이 모델을 비공식적으로 비밀리에 유지하고 소프트웨어 사업을 구축하는 방향으로 나아갈 수 있음을 시사한다.
GLM-5.2의 753B 파라미터와 1M 컨텍스트의 현실
GLM-5.2는 753B 파라미터와 1M 컨텍스트를 제공하며 MIT 라이센스를 적용받고 있다. 그러나 이러한 대규모 모델은 일반 사용자들이 자가 호스팅하기에는 현실적으로 불가능하며, 대부분의 사용자는 API를 통해 접근해야 한다. 이로 인해 자가 호스팅에 대한 관심이 줄어들고 있다는 의견이 제기되었다.
Thinky의 Inkling 모델: 975B 파라미터와 1M 토큰 컨텍스트 지원
Thinky는 Inkling이라는 새로운 오픈 모델을 발표했다. Inkling은 총 975B 파라미터와 41B 활성 파라미터를 가진 Mixture-of-Experts 트랜스포머 모델로, 텍스트, 이미지, 오디오를 지원하며 최대 1M 토큰의 컨텍스트 윈도우를 제공한다. 이 모델은 45조 개의 훈련 토큰으로 사전 훈련되었으며, Inkling-Small이라는 12B 활성 파라미터를 가진 경량 모델도 함께 공개되었다. 두 모델 모두 Apache 2.0 라이센스를 따른다.
Inkling: Thinking Machines Lab의 오픈 웨이트 모델
Mira Murati의 Thinking Machines Lab이 첫 번째 오픈 웨이트 모델인 Inkling을 출시했다. Inkling은 975B의 총 파라미터와 41B의 활성 파라미터를 가진 Mixture-of-Experts 트랜스포머로, 45조 개의 텍스트, 이미지, 오디오, 비디오로 훈련된 Apache-2.0 라이센스의 다중 모달 모델이다. 또한, 276B(12B 활성) 파라미터를 가진 Inkling-Small 모델이 테스트 중이며, 완료 후 가중치가 공개될 예정이다.
Amazon Bedrock에서 일반 제공되는 xAI의 Grok 4.3
xAI의 Grok 4.3가 Amazon Bedrock에서 일반 제공되며, 긴 입력에 대해 신뢰성 있는 추론을 제공하는 모델이다. Grok 4.3는 구성 가능한 추론 노력을 제공하고, 텍스트 및 이미지 입력을 수용하며, 100만 토큰의 컨텍스트 창을 가진다. 이 모델은 Mantle이라는 차세대 추론 엔진에서 실행된다. Grok 4.3는 고객 지원 시나리오에서 도구 호출 및 문서 이해를 위한 벤치마크에서 1위를 기록했다.
Moonshot AI, Kimi K3 모델 발표 및 성능
Moonshot AI가 Kimi K3 모델을 발표했다. 이 모델은 2.8조 개의 파라미터를 가지고 있으며, 현재 웹사이트와 API를 통해 이용 가능하다. Kimi K3는 '오픈 3T 클래스 모델'로 불리며, DeepSeek의 1.6T v4 Pro보다 성능이 우수하다. K3의 작업당 비용은 $0.94로, GPT-5.6 Sol의 $1.04와 비슷하며, Opus 4.8의 $1.80보다 낮다. K3는 Arena.ai의 Frontend Code arena에서 가장 높은 성능을 기록하고 있다.
Kimi K3 2.8T-A50B: 가장 큰 오픈 모델 출시
Moonshot AI가 Kimi K3를 2.8T의 총 파라미터와 1M 토큰 컨텍스트를 갖춘 오픈 모델로 출시했다. Kimi K3는 Kimi Delta Attention(KDA)와 Attention Residuals 기능을 포함하며, 2026년 7월 27일까지 오픈 가중치가 제공될 예정이다. Kimi K3는 Frontend Code Arena에서 1679점을 기록하며 1위를 차지했고, Text Arena에서는 9위에 올랐다.
Thinking Machines, Inkling 모델 출시 및 GLM-5.2 기능 업데이트
Thinking Machines가 첫 번째 오픈 웨이트 모델인 Inkling을 출시했다. Inkling은 1M 토큰의 컨텍스트 윈도우를 가지고 있으며 텍스트, 이미지 및 오디오에서 작동한다. Inkling은 Thinking Machines의 파인튜닝 플랫폼 Tinker에서 사용 가능하다. GLM-5.2는 현재 최고의 오픈 소스 모델 중 하나로, 많은 스타트업이 프론티어 모델에서 자가 호스팅된 파인튜닝 버전으로 작업을 전환하고 있다. GPT-5.6 Sol은 OpenAI의 내부 모델인 GPT-Red의 도움을 받아 안전성을 높였다. 구글의 Gemini Spark는 Docs 편집, Sheets/Slides의 댓글 읽기 및 병렬 작업 기능을 추가하여 50% 더 빨라졌다.