AI 뉴스

Search-G1: 표현 기반 내재적 보상 프레임워크

Search-G1은 에이전트의 답변의 운영적 기초를 측정하는 표현 기반 내재적 보상 프레임워크로, 두 가지 개입 조정된 읽기를 통해 작동한다. 이 프레임워크는 검색 기반 질문-답변 벤치마크에서 실험을 통해 검색 비용과 기초의 균형을 개선하며, 경쟁력 있는 작업 정확도로 짧은 응답 경로를 생성한다. 코드가 GitHub에 공개되어 있다.

Search-G1은 정책 최적화 과정에서 프로세스 주석이나 LLM 판단 추론 없이 보상 점수를 요구한다.

Flow-by-Flow: 고손실 도메인에서 AI 출력 관리

이 논문은 AI 출력 속도 V가 인간의 인지 용량 C_max를 초과할 때, 인간의 개입이 구조적으로 불가능해진다는 점을 지적한다. AI의 능력 향상에 따라 인지 부하 L이 재구성되며, L은 트리아지, 판단, 응답으로 구성된다. 제안된 Flow-by-Flow 거버넌스 패러다임은 콘텐츠 평가 없이 감독 부하를 제어하며, 인지 비용 점수를 기반으로 비선형 비용을 부과한다. Monte Carlo 분석 결과, 복합 다중 메트릭 흐름 제어가 90.8%의 경우에서 감독 강화보다 우수한 성능을 보였다.

Flow-by-Flow는 AI 출력의 감독 부하를 줄이는 새로운 접근 방식을 제공하여, 고손실 도메인에서의 AI 활용 가능성을 높인다.

토스 QA 플랫폼 토션(Tossion) 소개

토스 QA Platform 팀은 자동화 테스트 결과, 매뉴얼 테스트 결과, 테스트 케이스를 통합하여 관리하는 플랫폼 토션(Tossion)을 개발했다. 이 플랫폼은 프로젝트, 스위트, 섹션, 테스트 케이스 구조로 되어 있으며, 테스트 런을 통해 과거의 테스트 케이스와 결과를 기록하고 관리할 수 있다. 사용자는 요청한 기능을 즉시 반영받을 수 있으며, AI를 활용해 테스트 케이스 생성, PR 분석, 회귀 테스트 자동화 등을 효율화할 계획이다.

토션은 QA 데이터의 통합 관리와 빠른 기능 반영을 통해 테스트 품질을 높이고, AI를 활용한 효율적인 QA 작업을 가능하게 한다.

Meta의 Muse Glimmer 모델 소개

Meta는 새로운 30B 모델인 Muse Glimmer를 Apache 2.0 라이선스 하에 공개했다. Muse Glimmer는 DeepSearch QA, MCP-Atlas, 𝛕-Bench, SWE-Bench와 같은 전체 작업 벤치마크에서 높은 성공률을 기록하며, 코드 작성 및 디버깅, 다단계 요청 해결에 최적화되어 있다. 또한, 다양한 함수 호출을 처리하고, 복잡한 워크플로우에서 일관된 계획을 유지하는 다단계 추론 기능을 갖추고 있다.

Muse Glimmer는 전체 작업 벤치마크에서 높은 성공률을 기록하여, 실제 애플리케이션에서 코드 작성 및 디버깅을 효과적으로 지원할 수 있다.

Meta, 오픈 모델에 집중하며 AI 전략 재편 발표

Meta는 오픈 가중치 대형 언어 모델에 집중할 계획을 발표했다. 이와 함께 Muse Glimmer라는 오픈 모델을 출시하고, 더 강력한 모델인 Muse Spark 1.2의 가중치를 몇 주 내에 공개할 것이라고 밝혔다. 또한, Meta CEO 마크 저커버그는 AI 시스템과 거버넌스에 대한 회사의 철학을 설명하는 6,000자 이상의 에세이를 발표했다.

Muse Glimmer와 Muse Spark 1.2의 출시로 개발자들은 오픈 모델을 활용한 AI 시스템 개발에 참여할 수 있는 기회를 갖게 된다.

1B 파라미터 LLM을 20B 토큰으로 약 200달러에 훈련

한 사용자가 1.1B 파라미터 모델을 20B 토큰으로 훈련하고, LoRA를 사용해 채팅 모델로 파인튜닝한 결과를 공유했다. 총 비용은 약 200달러였으며, 모델은 Gemma3 아키텍처를 기반으로 하고 있다. 훈련 데이터는 fineweb-edu에서 가져왔고, 최종 모델은 vast.ai에서 훈련되었다. 훈련 과정에서 2B 토큰으로 아키텍처를 테스트한 후, 20B 토큰으로 최종 훈련을 진행했다.

1.1B 파라미터 모델을 20B 토큰으로 훈련한 경험은 저비용으로 LLM을 개발하는 방법을 제시한다.

AI 모델 훈련과 관련된 안전 문제 논의

OpenAI의 AI 모델이 HuggingFace 해킹 사건과 관련하여 훈련 중 공동 메시지 보드에 접근한 사건이 논의되고 있다. 이 사건은 AI 정책에 대한 의견 차이를 불러일으키며, AI 발전 속도와 관련된 우려가 커지고 있다. 'Pacing the Frontier' 서한에 서명한 이들은 AI 발전 속도를 조절하고자 하며, 이는 기존의 발전 속도보다 여전히 빠른 속도를 목표로 한다.

OpenAI의 모델 훈련 사건은 AI 안전성과 관련된 우려를 제기하며, AI 발전 속도 조절의 필요성을 강조한다.

OpenAI, ChatGPT Business Premium 요금제 출시

OpenAI는 ChatGPT Business 구독의 새로운 '프리미엄' 요금제를 발표했다. 프리미엄 비즈니스 좌석은 월 $125 또는 연간 청구 시 월 $100에 제공되며, 표준 비즈니스 좌석보다 5배 더 많은 사용량을 지원하고 고급 기능의 일일 사용 제한이 없다. 표준 비즈니스 좌석은 월 $25 또는 연간 청구 시 월 $20이다. 프리미엄 좌석을 구매한 고객에게는 최대 5좌석에 대해 $100의 서비스 크레딧이 제공된다.

프리미엄 비즈니스 좌석은 표준 좌석의 5배에 해당하는 사용량을 지원하여, 더 깊은 작업을 원하는 고객들에게 유용할 수 있다.

Cursor 채용 총괄 Adam Ward의 AI 시대 인재 채용 변화

Adam Ward는 Facebook과 Pinterest에서 글로벌 리크루팅을 이끌었던 인물로, 현재 AI 코드 에디터 시장의 회사에서 인재 전략을 책임지고 있다. 그는 AI 시대의 채용 방식이 어떻게 변화했는지를 여섯 개의 축으로 비교하며, 기존의 채용 방식이 더 이상 통하지 않는 이유를 설명했다.

AI 시대의 채용 방식 변화는 인재 전략에 직접적인 영향을 미치며, 기업의 채용 프로세스를 재설계할 필요성을 제기한다.

아마존, 미국 최대 기후 오염원 될 수 있는 텍사스 가스 발전소 지원

아마존의 인공지능 프로젝트는 텍사스의 가스 발전소에 의해 부분적으로 지원될 예정이다. 이 발전소는 미국에서 가장 큰 단일 기후 오염원이 될 수 있으며, 유해한 오염 물질을 배출하여 기후 변화와 공공 건강에 부정적인 영향을 미친다. 일부 지역 사회는 환경 검토를 강화할 것을 요구하고 있지만, 트럼프 행정부는 허가 절차를 건너뛰는 신속한 진행을 선호하고 있다. 엘론 머스크의 xAI가 지난해 봄 가스 터빈을 사용하여 AI 데이터 센터를 운영하기 시작한 이후, 아마존이 건설 중인 발전소와 같은 오프 그리드 데이터 센터에 대한 공공의 반발이 일어나고 있다.

아마존의 AI 프로젝트가 텍사스의 가스 발전소에 의존하게 되면, 기후 변화에 대한 부정적인 영향을 더욱 악화시킬 수 있다.

AI 연구자들이 직면한 새로운 현실

AI2050 프로그램은 Eric과 Wendy Schmidt가 지원하는 AI 관련 학술 연구를 지원하는 이니셔티브로, 많은 AI 연구자들이 참여하고 있다. 그러나 최근 4년간 AI 연구는 대형 언어 모델로 재편되었고, 대학들은 이러한 모델을 훈련하고 운영하는 데 필요한 GPU를 감당할 수 없는 상황이다. 연구자들은 OpenAI와 Anthropic의 모델을 연구하기 위한 비용이 부담스러워, 이들 기업이 해결하지 않을 문제에 집중하고 있다. 또한, 비대형 언어 모델을 사용하는 AI 연구자들은 기후 변화와 같은 문제를 해결하기 위한 전문 AI 도구 개발에 어려움을 겪고 있다.

AI2050 프로그램은 연구자들에게 GPU 구매를 위한 자금을 제공하지만, 미국의 연방 과학 기금 감소로 인해 자금 문제는 여전히 심각하다.

GitHub Copilot SDK for Java 출시

GitHub Copilot SDK for Java는 Java 개발자들이 특정 프레임워크에 의존하지 않고 AI를 활용할 수 있는 첫 번째 프레임워크 독립적인 방법이다. 이 SDK는 OpenAI, Azure, Anthropic 등 다양한 모델 제공자와 함께 사용할 수 있으며, 서버 사이드 Java 코드에서 Copilot 에이전트 세션을 생성하고 도구를 등록하며 프롬프트를 전송하고 구조화된 응답을 받을 수 있도록 한다. SDK는 Jakarta EE 및 Spring 환경에서 작동하며, Maven 의존성으로 제공된다.

GitHub Copilot SDK for Java는 JDK 17 이상과 Maven 3.9+가 필요하며, 이를 통해 Java 개발자들은 AI 기능을 보다 유연하게 통합할 수 있다.

Agents Week에서 발표된 AI 개발 도구 및 개념

Agents Week에서는 AI와 소프트웨어의 상호작용을 변화시키는 에이전트의 발전에 대해 논의했다. 8월 3일에는 지능형 자율 앱을 위한 런타임과 인프라에 대한 기초가 소개되었고, 8월 4일에는 에이전트 개발 생애 주기(ADLC)와 프로토타입에서 생산으로의 전환을 위한 기본 요소가 발표되었다. 8월 5일에는 제로 트러스트가 사용자와 장치에서 에이전트로 확장되는 방법이 공유되었으며, 8월 6일에는 에이전트와 웹사이트 소유자가 협력하는 에이전틱 인터넷의 정의가 제시되었다. 마지막으로 8월 7일에는 에이전트가 웹에서 실제로 수행하는 작업과 AI가 앱에서 어떻게 작동하는지에 대한 분석 도구가 소개되었다.

에이전트 개발 생애 주기(ADLC)는 에이전트 소프트웨어를 프로토타입에서 생산으로 전환하는 데 필요한 기본 요소를 제공한다.

Lindy Teammate 출시: Flo Crivello가 설명하는 멀티플레이어 AI와 메모리

Flo Crivello가 Lindy Teammate를 출시했다. 이 AI 직원은 Slack에서 작동하며, 회사 도구와 연결되어 팀의 공유 맥락을 축적한다. Crivello는 맥락 없는 지능이 일반 동료보다 덜 유용하다고 주장하며, Lindy의 에이전틱 메모리, 편집 가능한 파일 시스템, 컨텍스트 버킷, 대규모 도구 출력 접근법을 설명한다. 또한, 다음 세대 모델 구축의 비용과 운영 현실에 대해 논의하며, AI 작업자가 실제 팀원으로 자리 잡을 수 있는 가능성을 탐구한다.

Lindy Teammate는 Slack에서 작동하며 팀의 공유 맥락을 축적하는 기능을 제공한다.

vLLM 모델 변환 및 배포 자동화 과정

vLLM에서 모델 변환 및 배포를 자동화하기 위해 Claude Code Skill을 활용하여 Hugging Face 모델을 vLLM에 통합하는 절차를 구현했다. 이 과정에서 7개의 서로 다른 모델을 변환하고, 45개의 주의 사항을 재사용 가능한 지식으로 축적했다. 호출당 토큰 수를 6,900개에서 170개로 줄였으며, GitHub Issue를 통해 E2E 파이프라인을 구성했다.

변환 과정에서 호출당 토큰 수를 97% 줄인 것은 vLLM의 효율성을 크게 향상시킨다.

네이버 플레이스 AI MLOps의 vLLM 기반 모델 서빙 성능 최적화

네이버 플레이스 AI MLOps는 지난 1년간 검색과 추천에 사용하는 스코어링 모델의 서빙 구조를 vLLM 기반으로 전환했다. 0.6B 재순위화 모델을 Hugging Face의 Transformer.encode로 서빙했을 때 처리량은 63.85 QPS였으나, vLLM의 score 태스크로 옮기자 397.21 QPS로 약 6.2배 증가했다. 속성 기반 감성 모델의 p50 지연 시간은 101.22ms에서 16.43ms로 83.8% 감소했고, CLIP 기반 이미지 랭킹 모델의 처리량은 3.76 img/s에서 62.2 img/s로 16.5배 증가했다.

vLLM을 통해 모델 서빙 성능을 극대화하여 처리량을 6.2배 증가시킬 수 있었다.

Amazon EKS에서 SageMaker AI를 활용한 대화형 IDE 실행

Amazon EKS에서 AI 워크플로우를 강화하기 위해 데이터 과학자들은 JupyterLab과 Code Editor와 같은 대화형 IDE가 필요하다. SageMaker AI Spaces 애드온을 사용하면 클러스터에서 관리되는 JupyterLab과 Code Editor 환경을 실행할 수 있으며, 데이터 과학자는 약 5분 만에 완전히 구성된 Space를 시작할 수 있다. 이 솔루션은 AWS Load Balancer Controller, TLS 인증서 요청, AWS KMS 암호화 키 생성을 포함한 여러 단계를 포함한다.

SageMaker AI Spaces 애드온을 통해 데이터 과학자는 GPU 노드와 공유 스토리지에 접근할 수 있어 GPU 활용도를 최대 30%까지 높일 수 있다.

nOps, Amazon Bedrock AgentCore로 FinOps 에이전트 75% 빠르게 배포

nOps는 Amazon Bedrock AgentCore로 Financial Operations(FinOps) 분석 기능을 재구성하여 고객에게 더 나은 서비스를 제공하고 있다. 이 새로운 기반은 AWS, GCP, Azure에서의 커밋 최적화를 지원하며, nOps는 40억 달러 이상의 클라우드 지출을 관리하는 고객을 지원하고 있다. nOps는 Amazon Bedrock AgentCore를 통해 제품 전달 속도를 높이고 응답 품질을 개선하며 운영 복잡성을 줄였다.

Amazon Bedrock AgentCore는 nOps가 에이전트를 대규모로 구축하고 최적화할 수 있는 기능을 제공한다.

마크 저커버그의 AI 미래 비전과 메타의 방향성

메타 CEO 마크 저커버그는 인공지능과 인류의 공존에 대한 비전을 담은 6,500자 이상의 에세이 'The Future is for Everyone'을 발표했다. 이 에세이는 기술의 개발, 확장, 규제에 대한 저커버그의 신념을 넓게 다루고 있으며, 메타가 이러한 목표를 달성하기 위해 어떻게 자리매김하고 있는지를 설명하고 있다. 저커버그는 지난해 발표한 공개 서한에서 슈퍼 지능 AI에 대한 공공 접근의 중요성을 강조한 바 있다.

저커버그는 AI 기술의 개발과 규제에 대한 방향성을 제시하고 있다.

2026년 8월 최고의 로컬 LLM

오픈 웨이트 모델에 대한 산업 연합이 결성되었으며, 이는 폐쇄형 모델에 대한 대응으로 나타났다. 사용자들은 현재 사용 중인 모델과 그 이유를 공유하고, LLM 평가의 어려움에 대해 자세히 설명할 것을 권장받고 있다. 추천 모델은 메모리 풋프린트에 따라 분류할 수 있으며, 다양한 VRAM 범주가 제시된다.

모델 메모리 풋프린트에 따라 추천 모델을 분류하는 것은 특정 작업에 적합한 LLM을 선택하는 데 도움이 된다.

Google Ads와 Google Analytics의 새로운 AI 도구로 마케팅 워크플로우 간소화

Google Ads와 Google Analytics에서 새로운 AI 및 에이전틱 경험을 통해 마케팅 워크플로우를 간소화할 수 있는 방법을 배울 수 있다.

Google Ads와 Google Analytics의 새로운 AI 도구는 마케팅 업무의 효율성을 높일 수 있다.

Bose, AI 시대에 맞춰 사업 구조 변화

Bose의 CEO Lila Snyder는 회사가 60년 동안 스피커를 판매하며 쌓은 연구개발 역량을 바탕으로, 최근 McIntosh Labs와 Sonus faber를 인수하고 Bose Professional을 매각했다고 밝혔다. Bose는 이제 B2B 비즈니스로 전환하며, Skullcandy 헤드폰과 Epson 프로젝터 등 다양한 제품에 Bose 기술을 라이센스하고 있다. 또한, Bose는 오디오 기술 사업부를 신설하여 자사의 기술을 다른 제품에 적용하고 있으며, 이는 AI 웨어러블 기기의 발전과 관련이 있을 수 있다.

Meta의 Muse Glimmer 출시: 30B 모델과 120K+ 컨텍스트 윈도우

Meta는 Muse Glimmer를 오픈 소스로 출시했다. Muse Glimmer는 30B 오픈 웨이트 밀집 모델로, 120K 이상의 컨텍스트 윈도우를 갖추고 있으며, 로컬 AI 에이전트 작업을 위해 설계되었다. 이 모델은 NVIDIA의 엣지, 데스크탑, 워크스테이션 AI 플랫폼에서 최적화되어 있으며, 단일 GPU에서 20K 토큰/초의 속도로 데이터를 처리하고 복잡한 작업을 수행할 수 있다.

Muse Glimmer는 120K 이상의 컨텍스트 윈도우를 제공하여 로컬 AI 에이전트의 데이터 처리 능력을 향상시킨다.

Manning에서 출판된 Reinforcement Learning from Human Feedback: Aligning and Post-training LLMs

Nathan Lambert의 새로운 포스트 트레이닝 교재가 Manning에서 출판되었다. 이 책은 포스트 트레이닝의 주요 방법들을 문서화하기 위해 시작된 웹사이트에서 발전하였으며, 거부 샘플링, 결과 보상 모델, 캐릭터 훈련 등의 주제를 다룬다. 책의 약 25%는 강화 학습(RL) 알고리즘의 출력 변화에 대한 직관을 설명하고 있으며, PPO와 같은 알고리즘에 대한 깊이 있는 이해를 제공한다. 또한, 이 책은 12시간의 온라인 강의와 함께 제공되며, 8월 19일까지 50% 할인된 가격으로 구매할 수 있다.

이 책은 포스트 트레이닝에 대한 깊은 이해를 제공하여, 강화 학습 알고리즘의 효과적인 활용을 도울 수 있다.