AI 모델·API
AI 모델·API는 Claude, GPT, Gemini 같은 모델을 호출해 쓰는 접점이다. 모델 선택, 컨텍스트 한도, 토큰 가격, 프롬프트 캐싱, 스트리밍, 도구 호출 규격이 여기 묶인다. 모델마다 강점과 과금이 달라, 작업별 라우팅과 캐싱 설계가 비용을 좌우한다.
Agnes-3.0-Flash 33B 멀티모달 모델의 구조와 기능
Agnes-3.0-Flash는 262,144 토큰의 컨텍스트 창을 지원하며, 조정 가능한 추론 노력, 도구 호출, 텍스트, 이미지 및 비디오 이해 기능을 갖춘 하이브리드 주의 디코더이다. 72개의 디코더 레이어 중 54개는 델타 규칙을 따르고, 18개는 글로벌 주의를 사용하며, 숨겨진 크기는 5120이다. 이 모델은 248,320의 어휘를 가지고 있으며, 27개의 비전 타워 레이어를 포함하고 있다.
기술 기업들이 오픈 AI 모델로 전환하는 추세
Uber, Pinterest, Stripe, Coinbase, Ramp, AT&T는 독점 모델을 포기하고 스마트 모델 라우팅을 사용하여 AI 비용을 절감하고 있다. Linear와 Anthropic은 AI 에이전트가 자동으로 버그를 수정하고 기술 부채를 제거하는 실험을 진행 중이며, 이는 예상보다 잘 작동하고 있지만 검토 없이 병합할 수 있는 코드는 생성하지 못하고 있다. OpenAI는 SpaceX의 모델을 경쟁자로 삼아 Cursor에서 GPT 모델을 철수했으며, Anthropic은 SpaceX의 컴퓨팅 자원에 의존하고 있다. Ramp의 데이터에 따르면, 8월에 상위 1% 기업의 AI 지출이 10% 감소한 것으로 확인되었다.
OpenRouter의 자동 대체 처리 기능과 문제점
OpenRouter는 요청에 대해 가장 비용 효율적인 옵션을 자동으로 선택하여 단일 API 엔드포인트로 모델을 호출할 수 있도록 한다. 그러나 다양한 제공업체가 서로 다른 최적화 및 설정을 사용하기 때문에 동일한 OpenRouter 엔드포인트가 서로 다른 방식으로 작동할 수 있다. 일부 제공업체는 비전 모델에 대한 비전 기능이 없으며, 추론 처리 방식도 다를 수 있다. 특정 제공업체로의 라우팅을 제어할 수 있는 'provider.only' 옵션이 있으며, '/endpoints' 메서드를 통해 특정 모델 ID에 대한 사용 가능한 제공업체 목록을 확인할 수 있다.
HuggingFace 해킹 후 모델 출시 소식
HuggingFace 해킹 사건에 대한 포스트모템이 다수 발표되었으며, OpenAI의 Astra가 오늘 출시될 예정이다. 이번 주에는 Mythos 5.1, Fable 5.1, Gemini 3.8 Flash, Muse Spark 1.3, GLM-5.3-Flash 등이 출시될 예정이다. OpenAI의 Astra는 'recurrent depth' 기법을 사용하고 있으며, 이는 Chain of Thought의 해석 가능성에 큰 영향을 미치지 않는 것으로 보인다.
Alibaba Qwen3.8-2.4T-A95B 모델 공개 및 Amazon SageMaker HyperPod 배포 방법
2026년 8월 12일, Alibaba의 Qwen 팀은 Qwen3.8-2.4T-A95B 모델을 공개했다. 이 모델은 2.4조 개의 총 매개변수를 가지며, 262K 토큰까지의 네이티브 컨텍스트를 지원한다. Qwen3.8은 다단계 코딩, 장기 계획 및 자율 도구 사용을 포함한 복잡한 작업을 처리할 수 있도록 설계되었다. 이 모델은 Amazon SageMaker HyperPod에서 vLLM을 사용하여 배포할 수 있으며, 8개의 NVIDIA B300 Blackwell Ultra GPU를 사용하는 ml.p6-b300 인스턴스에서 실행된다.
Deepseek V4.1 Flash 모델의 파라미터 수치 정정
Deepseek V4.1 Flash 모델의 총 파라미터 수치는 748B이며, 기본 모델은 552B이다. 이전에 제기된 284B, 305B, 485B, 522B는 잘못된 수치다. 모델의 주요 구성은 약 551.566B 파라미터로 40층으로 구성되어 있으며, FFN 전문가가 543.582B, 나머지 구성 요소가 7.984B이다. 추가적으로 engram은 약 196.929B, DSpark/MTP는 약 14.225B, 비전 인코더는 약 0.485B이다. 이 모델을 사용하기 위해서는 128GB 또는 256GB의 RAM/VRAM이 필요하다.
Ling-3.0-flash-VL 모델의 이미지 및 비디오 이해 기능
Ling-3.0-flash-VL은 124B의 총 파라미터를 가진 모델로, 1M 토큰까지의 컨텍스트 윈도우를 지원하며, 이미지와 비디오 이해 기능을 확장하여 언어, 추론 및 긴 컨텍스트 기능을 계승한다. 이 모델은 ViT 비주얼 인코더를 통해 이미지와 비디오에서 특징을 추출하며, VideoRoPE를 사용하여 시각적 변화 이해를 지원한다. 또한, 42-layer 하이브리드 백본과 희소 MoE 아키텍처를 통해 효율적인 멀티모달 처리 기능을 제공한다.
모델 및 라이센스 업데이트: Motif-3, GLM-5.3, Hy4-preview
모델 라이센스 변화가 두드러진 가운데, GLM-5.3은 MIT 라이센스에서 커스텀 라이센스로 변경되었으며, 상업적 목적으로 사용 시 100억 달러 이상의 수익이 발생하면 Z.AI의 보안 검토를 통과해야 한다. Motif-3은 MIT 라이센스를 유지하며, 모델 크기에 비해 우수한 성능을 보인다. Tencent의 Hy4-preview는 모델 크기를 증가시키며, 현재 과도한 사고 문제를 겪고 있다.
Amazon Bedrock에서 GPT-6 Astra의 일반 제공 시작
OpenAI의 GPT-6 Astra가 Amazon Bedrock에서 일반 제공되며, 이는 고성능과 보안을 갖춘 추론 엔진에서 작동한다. GPT-6 Astra는 복잡한 비즈니스 결정에 깊은 추론과 판단을 제공하고, 코드 작성, 데이터 분석, 복잡한 워크플로 자동화 등에서 활용된다. 이 모델은 최대 1백만 개의 입력 토큰을 처리할 수 있으며, 반복적인 요청에서 동일한 컨텍스트를 재사용할 수 있는 기능을 지원한다.
Astra 모델, GPT-6 패밀리의 시작
Astra는 GPT-6 패밀리의 첫 모델로, ARC-AGI-3보다 성능이 우수하고 Zapier의 AutomationBench에서 최고 점수를 기록하며 Fable 5.1과 동일한 가격이다. Astra는 Canva에서 초상화를 그릴 수 있으며, Unreal Engine을 사용해 맨해튼을 재구성하는 등의 작업을 수행할 수 있다. Codex에서는 질문에 대한 답변을 기다리지 않고도 작업을 계속 진행할 수 있는 기능이 추가되었다. OpenAI는 자동화된 연구 인턴 목표를 달성했다고 밝혔다.
OpenAI, GPT-6 Astra 출시 및 AGI 시대 시작 예고
OpenAI는 GPT-6 Astra를 출시하며, 이를 컴퓨터 및 브라우저 내비게이션, 코딩, 어려운 수학 문제 해결에 있어 최첨단 모델로 소개했다. Astra는 DMV 예약, 구직 목록 검색, 아파트 탐색을 평균 사람보다 빠르게 수행할 수 있다. OpenAI는 Astra가 '세계 최고의 컴퓨터 사용 모델'이라고 강조하며, 이 모델이 AGI 시대의 시작을 알릴 것이라고 밝혔다. Astra는 내부 'Critical' 사이버 보안 기준을 최초로 충족하여 제한된 접근이 필요하며, 안전성 문제로 인해 강화된 모니터링 시스템이 도입되었다.
DS-V4-Flash-Vision Q8과 Qwen3.8-Flash-Next Q8 비교
사용자는 DS-V4-Flash-Vision(Q8_K_XL 양자화)와 Qwen3.8-Flash-Next(Q8_K_XL 양자화)를 비교한 결과, DS-V4FV가 Qwen3.8보다 토큰 생성 속도가 약 40% 느리지만, 작업 완료 속도는 약 두 배 빠르다고 보고했다. Qwen3.8은 'xhigh' 모드에서 사용 불가능하며, DS-V4FV는 같은 작업을 12분에 완료한 반면 Qwen3.8은 25분이 걸렸다. Qwen3.8은 지시 사항을 과도하게 해석하는 경향이 있다.
GPT-6 아스트라 출시 및 주요 스펙
GPT-6 아스트라(Astra)가 9월 3일 오픈AI에 의해 공개되었다. 이 모델은 컴퓨터 조작, 브라우징, 소프트웨어 엔지니어링, 사이버보안, 과학 등에서 최고 수준의 성능을 자랑하며, FrontierMath 98%, ARC-AGI-3 99.9%, ExploitBench 100%의 벤치마크 점수를 기록했다. 가격은 입력 10달러, 출력 50달러로, 이전 모델인 GPT-5.6 Sol의 2.5배에 해당한다. 아스트라는 사이버보안 '중대' 등급으로 단계적으로 공개되며, 구독제와 API는 곧 제공될 예정이다.
Open source AI gateway가 트래픽을 더 나은 모델로 전환
Open source AI gateway가 트래픽을 활용하여 더 나은 모델로 전환하는 기능을 제공한다.
OpenAI의 GPT-6 Astra와 Anthropic의 Claude Fable 5.1 출시
OpenAI는 GPT-6 Astra를 출시하며 FrontierMath Tier 4에서 98%를 기록하고, 소프트웨어와 복잡한 워크플로우를 탐색할 수 있는 모델을 목표로 하고 있다. Anthropic의 Claude Fable 5.1은 코딩과 지식 작업을 지원하며, Mythos 5.1은 신뢰할 수 있는 접근 프로그램에 제한된다. Google은 Gemini 3.8 Flash를 출시하며 코딩과 추론 능력을 강화했다.
Ling 3.0 Tiny 모델, 1.3B 활성화로 성능 우수
Ling 3.0 Tiny 모델이 1.3B의 활성화에도 불구하고 여전히 성능이 가장 뛰어난 것으로 보인다.
GPT-6 Astra 출시 48시간 후 X에서의 10가지 사례
OpenAI의 GPT-6 Astra가 발표된 후 48시간 동안 X에서 바이럴된 사례들이 소개되었다. 이틀 동안의 결과물은 언리얼 엔진 월드, Blender 모델, 브라우저에서 돌아가는 게임, 부동산 홍보 영상 등 3차원 결과물이 주를 이루었다. 사례로는 에이전트 대화, 맨해튼 거리 재현, 3D 게임 제작, 3D 모델링 및 홍보 영상 제작 등이 포함된다.
OpenAI, GPT-6 Astra 출시 및 기능 소개
OpenAI는 GPT-6 Astra를 새로운 플래그십 모델로 출시했다. Astra는 컴퓨터 사용, 소프트웨어 엔지니어링, 수학/과학, 사무 작업, 사이버 보안 분야에서 활용될 수 있도록 설계되었다. 초기에는 제한된 조직에 배포되며, 이후 ChatGPT Plus/Pro/Business/Enterprise, API, AWS로 확장될 예정이다. 가격은 표준 모델이 1M 입력 토큰당 $10, 출력 토큰당 $50이며, 고속 모델은 각각 $20, $100이다. OpenAI는 Astra가 99.9%의 성능을 기록한 ARC-AGI-3과 같은 벤치마크 수치를 발표했다.
Claude Fable 5.1, Mythos 5.1, GLM-5.3-Flash, Qwen 3.8 출시
최근 한 달간 세 가지 모델이 출시되었다. Anthropic은 Claude Fable 5.1과 Mythos 5.1을 출시했으며, 이는 두 가지 안전 장치 하에 판매되는 동일한 가중치 세트이다. Zhipu는 320B 모델인 GLM-5.3-Flash를 출시했으며, 이 모델은 18B 파라미터를 활성화하고 중국 칩에서 익명 트래픽을 처리하는 데 일주일을 소요했다. Alibaba는 Qwen 3.8 패밀리를 출시했으며, 여기에는 오픈 가중치를 가진 최초의 Max-class Qwen과 Qwen 4 아키텍처의 미리보기가 포함된다.
WeatherNext 3: 가장 진보되고 정확한 글로벌 날씨 AI 모델
WeatherNext 3는 가장 진보되고 정확한 글로벌 날씨 AI 모델이다.
OpenAI, Anthropic, xAI, Google의 AI 모델 서비스 중단 발생
2023년 목요일 오전, OpenAI, Anthropic, xAI, Google이 운영하는 클라우드 기반 AI 모델에서 중복된 서비스 중단이 발생했다. Anthropic은 오전 9시 23분에 Claude Mythos 5.1, Claude Fable 5.1, Claude Opus 5에 대한 요청에서 '부분적인 중단'을 보고했으며, 약 15분 후 원인을 파악하고 12시 16분에 문제를 해결했다고 밝혔다. 별도의 사건 보고서에서는 정오 직후 Claude Sonnet 5에 대한 요청에서 '높은 오류'가 발생했다고 전했다. OpenAI는 오전 10시 43분에 ChatGPT와 Codex에서 '높은 오류'로 인해 성능 저하가 발생했다고 보고했으며, 12시 55분에 문제를 해결했다고 밝혔다.
Claude 시스템 프롬프트 업데이트: 노래 가사 재생산 금지
Anthropic은 Claude 소비자 애플리케이션의 시스템 프롬프트를 공개했다. 새로운 프롬프트에서는 노래 가사, 시, 책 및 기사에서의 특정 구문을 재생산하지 않도록 명시하고 있으며, 이는 1929년 이전에 발표된 작품은 제외된다. 또한 저작권이 있는 캐릭터나 로고를 생성하는 것도 금지된다.
Muse Spark 1.3, GPT-5.6-Sol과 동급으로 평가받으며 90% 할인 제공
Muse Spark 1.3은 현재 세계에서 세 번째 모델로 평가받고 있으며, OpenAI와 Anthropic의 모델과 유사한 성능을 보이고 있다. 이 모델은 오픈 웨이트로 제공될 예정이며, 훈련에 참여할 경우 90% 이상의 할인 혜택이 주어진다.
llm-gemini 0.34 버전 출시 및 Gemini 3.8 Flash 모델 소개
llm-gemini 0.34가 출시되었으며, 새로운 모델인 'gemini-3.8-flash'가 추가되었다. 이 모델은 낮음, 중간, 높음의 사고 수준을 지원한다. 또한 비동기 응답에서 모델 버전 기록 실패가 수정되었다. Google은 Gemini 3.8 Flash를 출시하였고, 이 모델은 HTML과 JavaScript 작업에서 빠르고 저렴한 성능을 보여준다.