AI 모델·API
AI 모델·API는 Claude, GPT, Gemini 같은 모델을 호출해 쓰는 접점이다. 모델 선택, 컨텍스트 한도, 토큰 가격, 프롬프트 캐싱, 스트리밍, 도구 호출 규격이 여기 묶인다. 모델마다 강점과 과금이 달라, 작업별 라우팅과 캐싱 설계가 비용을 좌우한다.
KRAFTON의 Raon-1 mini 모델 소개
Raon-1 mini는 KRAFTON AI에 의해 처음부터 설계되고 훈련된 30B-A4B Mixture-of-Experts (MoE) 언어 모델이다. 이 모델은 한국어 대화 및 에이전트 작업에서 강력한 능력을 보여준다. Raon 오픈 모델 패밀리의 일환으로 Apache 2.0 라이선스 하에 공개되었다. 주요 기능으로는 내장된 사고 능력, 지시 따르기 및 검색에서의 우수한 성능, 강력한 한국어 능력, 에이전트 작업을 위한 도구 호출 지원, 가속화된 추론을 위한 DFlash2 초안 모델 제공, MXFP8 및 NVFP4 형식의 양자화 옵션이 있다.
Clairic: 새로운 System One 클래스의 추출 모델 소개
Cloudflare는 새로운 System One 스타일의 추출 모델 Clairic을 발표했다. Clairic은 비구조적 입력에서 값을 추출, 계산, 추정 및 예측할 수 있으며, 기존 LLM보다 더 높은 정확도와 빠른 응답 속도를 제공한다. Clairic은 입력에서 직접 값을 추출하거나 예측하며, 출력에는 신뢰도 점수가 포함된다. 이 모델은 80%의 범위로 숫자를 반환하고, 이름, 날짜, 목록과 같은 유형화된 값을 추출할 수 있다.
Deepgram의 Nova-3 모델을 AWS Trainium2로 최적화
Deepgram은 음성 AI 모델을 통해 연간 수조 개의 오디오 토큰을 처리하며, 200,000명의 개발자와 1,400개 조직이 사용하고 있다. Deepgram은 AWS Trainium2를 활용하여 Nova-3 모델을 오프라인 배치 작업에 맞게 최적화했다. 이 최적화로 인해 Deepgram은 동일한 인프라 예산으로 11~70% 더 많은 오디오를 처리할 수 있게 되었다.
Meta의 Muse Wonder 및 Muse Spark Open 출시
Meta는 Muse Wonder와 Muse Wonder Full을 출시하며 Active Memory 및 Active Focus 기능을 추가했다. Muse Spark Open은 8160억 개의 파라미터를 가진 오픈 웨이트 멀티모달 모델이다. CoreWeave는 AI 인프라에 대한 자금 조달 문제를 겪고 있으며, 6월 말 기준으로 약 1040억 달러의 수익 백로그를 보고했다. Character.AI는 월 800만 달러에서 900만 달러의 운영 손실을 기록하며 Chapter 11을 신청했다.
Latent Space의 High Taste Testers 첫 회 방송
Latent Space에서 새로운 쇼 'High Taste Testers'를 파일럿 방송 중이다. 이 쇼는 샌프란시스코의 점심 대화를 주제로 하며, Dev Day와 최신 모델 및 어시스턴트에 대한 이야기들을 다룬다. AINews는 2026년 10월 15일부터 16일까지의 AI 뉴스를 포함하고 있으며, 12개의 서브레딧과 544개의 트위터를 확인했다.
Amazon SageMaker JumpStart를 통한 모델 배포 및 평가 방법
Amazon SageMaker JumpStart는 이미 훈련된 모델의 광범위한 카탈로그에 접근할 수 있도록 하며, 사용자는 SageMaker Python SDK를 사용하여 모델을 배포하고 성능 테스트를 수행할 수 있다. 2026년에는 모델 발견 및 배포를 간소화하는 두 가지 개선 사항이 도입되었으며, 사용자는 SageMaker Studio에서 샘플 노트북을 직접 열 수 있다. 또한, Hugging Face 모델 발견에서 SageMaker AI 배포로의 단일 클릭 통합이 가능해졌다.
Beam 모델: 501B 파라미터와 1M 토큰 컨텍스트 지원
Beam은 Reflection에서 개발한 오픈 모델로, 텍스트 입력을 받아 텍스트 출력을 생성한다. 이 모델은 501B의 총 파라미터와 23B의 활성 파라미터를 가지며, 1M 토큰의 컨텍스트 윈도우를 지원한다. BF16, FP8, NVFP4 수치로 제공되며, 주로 영어를 위해 개발되었다. Beam은 코드 생성, GitHub 문제 해결, 자연어 지시를 통한 다단계 작업 수행 등 다양한 기능을 제공한다.
Meta의 Muse Wonder 모델, 22일 만에 500만 다운로드 기록
Meta는 Muse Wonder 모델을 출시하고 22일 만에 500만 다운로드를 기록했다고 발표했다. Muse Wonder는 빠른 속도를 자랑하지만, Muse 개인 에이전트를 차단하는 속도도 주목할 만하다. Anthropic은 최근 anti-distillation 프로토콜에서 90~99%의 데이터 수집 감소를 달성했다고 밝혔다. Google은 Gemini 4 Argon 모델을 일반에 공개했으며, 이 모델은 복잡한 실제 작업에서 뛰어난 성능을 발휘한다고 전했다.
메타, Muse Wonder와 Muse Wonder Full 모델 공개
메타는 10월 12일에 Muse Wonder와 Muse Wonder Full이라는 두 개의 새로운 모델을 공개했다. 이 모델들은 메타가 만든 모델 중 가장 강력하며, 메타는 이번에 처음으로 '프론티어'라는 표현을 사용했다. 이전까지 이 자리는 OpenAI의 GPT, Anthropic의 Claude, Google의 Gemini가 차지하고 있었다.
Google DeepMind와 싱가포르 정부, 사기 탐지를 위한 Gemma 모델 개발 협력
Google DeepMind와 GovTech Singapore는 경량화된 온디바이스 Gemma 모델을 사용하여 개인 채팅에서의 대화형 사기를 차단하는 방법을 개발하고 있다. 이 모델은 클라우드 데이터 전송 없이 작동한다.
Sequen의 Zoe Weil, 구매 최적화를 위한 라이브 행동 신호 활용
Zoe Weil은 Sequen의 공동 창립자이자 CEO로서, 순위 시스템이 클릭이나 검색 관련성뿐만 아니라 구매를 최적화하기 위해 라이브 행동 신호를 어떻게 활용할 수 있는지에 대해 논의했다. Sequen은 스크롤 속도, 호버 지속 시간 등 세션 내 상호작용을 통해 사용자 신원에 의존하지 않고 쇼핑객의 의도를 추론하는 방법을 설명했다. 또한, 대규모 이벤트 모델과 스트리밍 이벤트를 다운스트림 랭커를 위한 기능으로 변환하는 전문 모델의 아키텍처에 대해 탐구했다. Zoe는 밀리초 내에 동적 순위를 제공하기 위한 인프라와 백엔드에 Rust를 선택한 이유, 모델 개선을 비즈니스 결과와 연결하는 평가 시스템에 대해서도 설명했다.
Anthropic의 Scion과 Google의 Gemini 4 Argon 및 Meta의 Muse Wonder 발표
Anthropic은 GitHub의 내부 대체 시스템인 Scion을 개발하여 코드 작성을 관리하고 있으며, 이는 5개월 만에 소규모 팀에 의해 만들어졌다. Google은 Gemini 4 Argon을 출시했으며, 안전 보고서도 함께 공개되었다. Meta는 Muse Wonder를 발표했지만, 두 모델 모두 성능에 대한 확실한 정보는 아직 없다. OpenAI는 직원이 물리적 버그를 심는 사건을 발견했다.
MiniCPM-V 4.7, 35B MoE 비전-언어 모델이 모바일에서 실행
OpenBMB의 MiniCPM-V 4.7 데모에서 35B-A3B MoE 비전-언어 모델이 모바일 기기에서 실행되는 모습을 보여주었다. 이 모델은 실제 표지판 읽기, 복잡한 문서 이해, 시각 정보에 대한 추론, 현실 제약을 고려한 계획 수립 등의 사용 사례를 지원한다. LES(Lookahead Expert Scheduling) 기능을 통해 MoE 추론을 최적화하여 병목 현상을 줄인다. 또한, 자원 제약이 있는 기기를 위한 MiniCPM-V 4.7 1B 모델과 특정 작업에 맞춰 모델을 사용자 정의할 수 있는 Self-Replay Fine-Tuning(SRFT) 기능도 제공된다.
Meta Muse Wonder 및 Muse Wonder Full 출시
Meta Superintelligence Labs(MSL)가 Muse Wonder(코드명 'Watermelon')와 Muse Wonder Full 모델을 출시했다. Muse Wonder는 빠른 프론티어 모델로, Muse Wonder Full은 더 큰 모델로, 두 모델 모두 1M의 컨텍스트 윈도우를 지원하며, 입력 비용은 $4/M, 출력 비용은 $20/M이다. Muse Wonder는 Meta Model API와 Muse Code를 통해 이용 가능하며, Muse Wonder Full은 Muse Code 구독자만 사용할 수 있다. Wonder Full은 다양한 벤치마크에서 성능이 향상되었으며, 특히 Terminal-Bench 4.0에서 33%에서 57%로 증가하는 등 여러 평가에서 상위권에 랭크되었다.
Meta AI의 새로운 모델 llm-meta-ai 0.2 출시
Meta AI가 새로운 모델 'Muse Wonder'와 'Muse Wonder Full'을 출시했다. 이 모델은 Meta의 첫 번째 Fable 클래스 모델로 보이며, Artificial Analysis에 따르면 Muse Wonder (Max)는 GPT-6.1 Sol과 동등한 성능을 가진다. llm-meta-ai 플러그인이 새로운 모델에 맞게 업데이트되었으며, Muse Wonder의 여섯 가지 추론 수준에 대한 결과도 제공된다. Meta AI는 매달 새로운 모델을 출시하고 있으며, 각 모델 간의 개선 사항은 눈에 띈다.
llm-gemini 0.35 버전 출시 및 Gemini 4 Argon 모델 지원
llm-gemini 0.35가 출시되었으며, 새로운 Gemini 4 Argon 모델을 지원한다. Gemini 4 Argon은 월 $100의 구독 계획을 통해 사용할 수 있으며, 입력 비용은 $2/백만, 출력 비용은 $10/백만이다. 12월 1일부터 가격이 두 배로 인상될 예정이다. 현재 Argon의 벤치마크 실행 비용은 $2,407로, GLM-5.3과 비슷하며 OpenAI, Anthropic, Meta의 최신 모델보다 저렴하다.
Gemini 4 Argon 출시 및 AI x Finance 키노트 요약
Gemini 4 Argon이 오늘 출시되었으며, Google은 이를 코딩, 지식 작업, 기업 워크플로우 및 사이버 방어에 활용할 수 있도록 했다. Argon의 가격은 초기 API 요금이 입력/출력 토큰 100만 개당 $2/$10이며, 11월 30일 이후 요금이 두 배로 인상된다. Google은 10,000명의 과학자에게 Antigravity의 최고 사용 등급을 6개월 동안 무료로 제공할 예정이다. Argon은 Cursor, Devin Desktop/CLI 및 GitHub Copilot에서 사용할 수 있다.
구글 제미나이 4 아르곤 출시 및 주요 특징
구글의 새로운 모델 제미나이 4 아르곤(Gemini 4 Argon)이 10월 13일에 공개되었다. 이 모델은 출력 한도가 100만 토큰으로 늘어나고, 멀티모달 구조를 갖추었으며, 낮은 환각률(15%)을 자랑한다. 아르곤은 복잡한 엔지니어링, 일반 업무 워크플로, 연구 및 사이버 방어 분야에 강점을 보인다. 유료 사용자만 사용할 수 있으며, 출시 기념가는 100만 토큰당 입력 2달러, 출력 10달러이다.
Amazon EKS에서 Ray LLM Deep Learning Containers를 사용한 다중 노드 추론 배포
이 글에서는 Amazon Elastic Kubernetes Service(Amazon EKS)에서 두 개의 GPU 노드에 걸쳐 하나의 대형 언어 모델(LLM)을 배포하는 방법을 설명한다. 다중 노드 Ray LLM Deep Learning Containers를 사용하여 prefill과 decode 노드를 분리하여 OpenAI 호환 엔드포인트 뒤에서 작동하도록 한다. 이 방식은 Retrieval Augmented Generation(RAG), 문서 요약 및 에이전틱 애플리케이션과 같은 작업에 적합하다. 또한, Ray LLM DLC는 HTTP 엔드포인트 뒤에서 모델을 제공하기 위해 설계된 컨테이너로, AWS에서 유지 관리되고 테스트된 전체 추론 스택이 이미 조립되어 있다.
태국, 말레이시아, 싱가포르, 인도네시아, 대만에서 Amazon Bedrock을 통한 OpenAI GPT 모델 접근
Amazon Bedrock은 태국, 말레이시아, 싱가포르, 인도네시아, 대만에서 글로벌 크로스 리전 추론을 통해 OpenAI GPT-6 Sol, GPT-6 Luna, GPT-6 Astra 모델을 제공한다. 이 모델들은 복잡한 작업을 처리할 수 있는 강력한 추론 및 코딩 능력을 갖추고 있으며, 텍스트와 이미지 입력을 지원한다. 사용자는 API 호출 시 글로벌 크로스 리전 추론 프로필 ID를 사용하여 요청을 처리할 수 있다.
llama.cpp를 이용한 Amazon SageMaker AI에서의 의사결정 모델 배포
llama.cpp를 Amazon SageMaker AI에서 배포하여 고정된 선택지에 대한 점수를 제공하는 의사결정 모델을 관리형 경로로 서빙할 수 있다. 이 글에서는 AWS Deep Learning Containers(DLC)를 사용하여 OpenAI 호환 채팅 완성을 제공하고, SemIf를 통해 선언된 옵션에 대한 확률을 반환하는 방법을 설명한다. 또한, 모델을 Amazon S3에 패키징하고, SageMaker와 호환되는 어댑터로 자식 이미지를 빌드하는 과정도 포함되어 있다.
Mistral의 Le Chonk, 1조 매개변수 모델 공개
프랑스 회사 Mistral이 1조 매개변수 모델인 Mistral Large 4(별칭: Le Chonk)를 공개했다. 이 모델은 미국과 중국의 최고 AI 모델과 경쟁할 수 있다고 주장하며, 누구나 사용하고 커스터마이즈할 수 있다. 현재 미리보기 버전이 제공되며, 최종 버전은 이달 말에 출시될 예정이다. Le Chonk는 일반적인 모델과 경쟁하기 위해 설계되었지만, 코딩, 사이버 방어, 제조, 금융, 전기 공학 등 특정 분야에 최적화되어 있다.
Qwen 3.8 Flash Next-GSQ-RCO-IQ2_XS의 RTX 3060에서의 성능
Qwen 3.8 Flash Next IQ2_XS 모델은 RTX 3060 12GB와 16GB DDR4 RAM에서 약 21 tok/s의 속도를 기록하며, 메모리 최적화 없이도 비트 정확한 출력을 제공한다. 이 모델은 68GB 크기로, 기존의 llama.cpp를 사용할 때보다 10~15배 빠른 성능을 보인다. 특히, --moe-direct-io 옵션을 사용하면 페이지 결함이 거의 없고, SSD I/O를 통해 효율적인 데이터 처리가 가능하다.
미스트랄, Mistral Large 4 모델 공개 및 사이버보안 작업 대체 주장
10월 5일과 6일에 오픈웨이트 모델 두 개가 공개되었으며, 프랑스 미스트랄은 Mistral Large 4를 공개 프리뷰로 열고 이 모델에 르 총(le Chonk)이라는 별명을 붙였다. 미스트랄은 이 모델이 폐쇄형 모델이 거부하던 사이버보안 작업을 대신한다고 주장하며, 이달 말에 가중치가 공개되어 누구나 다운로드할 수 있게 된다.