AI 뉴스
Cloudflare가 비영리 조직을 위한 AI 자동화 지원
Cloudflare는 비영리 조직이 AI를 활용하여 작업을 자동화하는 사례를 공유하고 있다. Cloudflare Impact 프로그램을 통해 750만 달러 이상의 크레딧을 지원받은 여러 조직은 AI를 통해 정신 건강 지원, 온라인 표현 자유 보호 등 다양한 분야에서 혁신적인 도구를 개발하고 있다. 예를 들어, LebTown은 맞춤형 편집 관리 시스템을 구축하여 뉴스 운영을 자동화하고, Kaya Guides는 WhatsApp 기반의 정신 건강 애플리케이션을 통해 10,439명의 사람들에게 지원을 제공하고 있다. Cloudflare의 보안 서비스는 이러한 조직들이 안전하게 AI 애플리케이션을 운영할 수 있도록 돕고 있다.
Cloudflare는 비영리 조직이 AI를 활용하여 효율적으로 작업을 수행할 수 있도록 지원하며, 750만 달러의 크레딧을 제공하여 혁신적인 도구 개발을 촉진하고 있다.
AI 리스크에 대한 경각심 증가와 정치적 반응
AI 리스크에 대한 경각심이 높아지고 있으며, 정치인들이 청문회를 열고 있다. Robert O’Callahan이 AI 기술 발전 속도가 너무 빠르다고 판단해 구글에서 사퇴했다. 최근 여론 조사에 따르면, 미국인 80%가 AI 개발을 늦추거나 중단하는 것에 찬성하고 있으며, 64%는 AI가 인류 생존에 위협이 될 가능성이 있다고 생각하고 있다. 이러한 경향은 정치적 대응을 촉발하고 있다.
미국인 80%가 AI 개발을 늦추거나 중단하는 것에 찬성하고 있다는 점은 AI 기술의 사회적 수용성에 중요한 영향을 미칠 수 있다.
Lio의 다중 에이전트 시스템을 통한 기업 프로세스 혁신
a16z의 Seema Amble과 Elena Burger는 Lio의 공동 창립자이자 CEO인 Vladimir Keil과 AI 네이티브 스타트업이 기존 소프트웨어 기업에 비해 갖는 장점에 대해 논의했다. Lio는 다중 에이전트 시스템을 활용하여 조달, RFQ, 협상, 배송 추적 및 송장 처리 등 엔드 투 엔드 작업을 수행한다. 또한, 기업들이 에이전트에게 점점 더 중요한 결정을 신뢰하게 되는 이유와 내부 AI 구축의 마지막 20%가 대부분의 노력을 요구하는 이유에 대해서도 이야기했다.
Lio는 다중 에이전트 시스템을 통해 기업의 조달 프로세스를 효율적으로 개선할 수 있다.
AlphaGo의 창의적 선택과 현재 AI의 추론 능력 부족
2016년 AlphaGo는 이세돌과의 대결에서 37수째에 창의적인 수를 두어 승리했다. AlphaGo는 정책 네트워크와 검색 기계로 구성되어 있으며, 후자는 미래의 결과를 고려하여 수를 선택했다. 현재의 대형 언어 모델은 다음 토큰을 예측하는 방식으로 작동하며, 진정한 추론 능력이 부족하다. 이로 인해 고위험 분야에서 신뢰할 수 있는 결과를 도출하기 어렵다.
현재 AI 시스템은 AlphaGo와 같은 진정한 추론 능력을 갖추지 못해, 과학 및 의학 분야에서 신뢰할 수 있는 결과를 제공하는 데 한계가 있다.
Pi 1.0 및 Pi Durable 발표
AI Engineer NYC 행사에서 Pi 1.0과 Pi Durable이 소개되었다. Pi 1.0은 MCP, Jev 및 이미지 모델에 대한 네이티브 지원, 가상 모델에 대한 확장 지원, 대화 중 시스템 메시지, 전체 화면 모드 기본 설정 등의 기능을 포함한다. Pi Durable은 TypeScript로 포팅되어 모든 상태 구성 요소를 외부화하며, 작업의 모든 단계를 체크포인트로 기록하여 프로세스가 실패하거나 재시작될 경우 자동으로 마지막 상태에서 재개할 수 있다. 또한, 여러 사용자가 동일한 에이전트를 동시에 연결하고 조작할 수 있는 기능도 제공한다.
Pi Durable은 JavaScript 런타임에서 실행 가능하며, 메모리, SQLite, JSONL 등의 플러그형 스토리지 백엔드를 사용하여 다양한 환경에서 유연하게 실행할 수 있다.
BudgetSchemaBench: 텍스트-투-SQL에서 스키마 컨텍스트를 위한 예산 기반 진단
BudgetSchemaBench는 데이터 에이전트가 데이터베이스 스키마를 모델의 컨텍스트 윈도우에 맞추는 데 필요한 예산 기반 진단 도구이다. 80개 데이터베이스 카탈로그를 사용하여 네 가지 스키마-컨텍스트 예산을 평가하고, 세 가지 표현 방식을 비교하였다. 예산을 2.5%에서 50%로 증가시키면 1,279개의 질문에 대한 실행 정확도가 18% 향상되지만, 밀집 검색에서는 3% 향상에 그쳤다. 필요한 테이블이 제거되었을 때 94.6%의 정확한 예측이 해당 테이블 중 하나를 정확히 언급하였다. 이 진단 도구와 평가에 사용된 코드는 공개되어 있다.
예산을 2.5%에서 50%로 증가시키면 실행 정확도가 18% 향상된다.
PRM-Pruned Fragment Grafting의 비활성화 메커니즘 분석
PRM-Pruned Fragment Grafting (PPFG) 메커니즘이 다양한 언어 모델에서 통계적으로 독립적인 병렬 체인-사고(baseline)와 차이가 없음을 보여주었다. 322개의 정체 규칙 주입 사건을 네 가지 범주로 분류한 결과, 14%만이 실제로 어려움을 겪고 있는 체인을 겨냥했으며, 나머지는 이미 성공했거나 완료에 가까운 체인이었다. PPFG의 선택이 독립적인 방법에 비해 문제당 +0.13 pp의 이득을 줄 수 있다는 점이 발견되었다.
PPFG는 Qwen2.5-7B-Instruct와 Math-Shepherd를 사용하여 MATH500에서 테스트되었으며, 이 방법이 독립적인 병렬-CoT와 통계적으로 구별되지 않음을 보여준다.
온디바이스 개체명 인식: 정확도, 비용, 신뢰성 및 신뢰도 배포 가능성 연구
개체명 인식(NER)은 API 없이 로컬에서 데이터가 유지되는 온디바이스 구현이 점점 더 요구되고 있다. 연구에서는 9개의 시스템을 3가지 패러다임과 13M에서 8B 파라미터로 분류하고, 정확도 외에도 지연(latency)과 출력 유효성(output validity)을 평가하였다. 결과적으로, 4B 인스트럭션 LLM이 정확도에서 경쟁력을 보였으나, 인코더는 더 작은 크기에서 밀리초에서 초 단위의 지연으로 배포 가능성을 보여주었다. GLiNER의 신뢰도는 AUROC 0.76에서 0.86으로 정확성을 잘 나타내지만, 과신하는 경향이 있었다.
SW-KAN: Stieltjes-Wigert q-정규 다항식을 활용한 Kolmogorov-Arnold Networks
Kolmogorov-Arnold Networks (KANs)는 고정 노드 활성화를 학습 가능한 단변량 함수로 대체하여 해석 가능성과 파라미터 효율성을 향상시킵니다. Stieltjes-Wigert Kolmogorov-Arnold Network (SW-KAN)은 반무한 영역에서 정의된 Stieltjes-Wigert q-정규 다항식을 사용하여 도메인 불일치를 해결합니다. 이 아키텍처는 매끄러운 지수-탄젠트 맵핑을 도입하여 안정적인 그래디언트를 유지하며, O(N) 연산으로 다항식 확장을 평가하는 수치적으로 안정적인 삼항 재귀를 활용합니다. SW-KAN은 이미지 분류 및 연속 함수 근사에서 우수한 정확도-효율성 균형을 달성하며, 자원 제약 조건 하에서도 강력한 성능을 발휘합니다.
SW-KAN은 자원 제약 조건에서 효율적인 함수 근사 및 분류를 위한 유망한 대안입니다.
자기 홍보 스레드 게시 안내
사용자는 개인 프로젝트, 스타트업, 제품 배치, 협업 필요, 블로그 등을 이곳에 게시할 수 있습니다. 제품 및 서비스의 가격 요구 사항을 언급해야 하며, 링크 단축기나 자동 구독 링크는 게시하지 않아야 합니다. 신뢰를 남용할 경우 금지 조치가 취해질 수 있습니다. 이 스레드는 다음 스레드가 올라올 때까지 유지됩니다.
MIT의 Alex Zhang, RLMs와 GPU Mode에 대한 연구 소개
AI Engineer NYC의 일반 티켓 마지막 판매가 진행 중이며, Latent Space 구독자에게는 30% 할인 코드가 제공된다. 2024년에는 Shunyu Yao, 2025년에는 Jack Morris가 소개되었고, 올해는 MIT의 Alex Zhang이 소개된다. Alex Zhang은 GPU 커널, Recursive Language Models(RLMs), 그리고 다수의 에이전트 시스템에 대한 연구를 진행하고 있으며, RLM 기반의 장치가 OpenAI의 Astra보다 먼저 ARC-AGI-3 문제를 해결했다. 그는 RLMs, 컨텍스트 오프로드, 프로그램적 서브 에이전트 호출 등 다양한 주제를 다룬다.
Alex Zhang은 RLMs와 GPU Mode를 통해 AI 모델의 잠재력을 극대화하는 방법을 탐구하고 있다.
NVIDIA Blackwell GPU에서 실행되는 GPT-6 Astra Ultrafast 출시
GPT-6 Astra Ultrafast는 NVIDIA Blackwell GPU에서 실행되며, OpenAI API와 ChatGPT Work 및 Codex 사용자에게 제공된다. Ultrafast는 Astra Standard 모드보다 최대 8배 빠른 토큰 생성을 지원하여 개발자들이 코드 작성, 도구 사용 및 복잡한 작업을 수행하는 데 소요되는 시간을 단축시킨다. OpenAI는 NVIDIA GPU에서의 추론 소프트웨어를 개선하기 위해 자체 모델을 활용하고 있으며, 이는 시간이 지남에 따라 모델 응답 속도와 배포된 인프라의 생산성을 향상시킨다.
Ultrafast는 개발자들이 코드 작성과 도구 사용 시 더 빠른 응답을 제공하여 작업 흐름을 개선할 수 있도록 한다.
미국 연방 판사, Chegg와 Penske의 구글 AI 검색 반독점 소송 기각
미국 연방 판사 Amit Mehta는 Chegg와 Penske Media가 구글을 상대로 제기한 반독점 소송을 기각했다. 이들 회사는 구글이 AI 개요와 같은 제품에서 반독점법을 위반했다고 주장했으나, 판사는 구글의 행위가 불법이 아니라고 판단했다. Chegg는 구글이 자신의 교육 콘텐츠를 불법으로 스크래핑하여 Gemini 모델이 해당 콘텐츠를 재생산하게 했다고 주장했으며, Penske는 자사의 콘텐츠가 AI 답변을 위해 수집되는 것이 불공정하다고 주장했다.
Chegg는 구글이 자사의 교육 콘텐츠를 불법으로 스크래핑했다고 주장했으나, 판사는 이러한 주장을 받아들이지 않았다.
Amazon Quick의 Live Data in Apps 기능 소개
Amazon Quick의 새로운 기능인 Live Data in Apps는 사용자가 앱을 열 때마다 실시간으로 Quick Sight 데이터셋을 쿼리할 수 있게 해준다. 이를 통해 사용자는 SQL을 사용하지 않고도 현재의 데이터를 확인할 수 있으며, 각 사용자는 자신이 볼 수 있는 데이터만 필터링되어 제공된다. 이 기능은 비즈니스 운영자, 지식 근로자, 데이터 및 애플리케이션 관리자에게 이점을 제공하며, 기존의 행 수준 보안(RLS) 및 열 수준 보안(CLS) 규칙이 자동으로 적용된다.
Live Data in Apps를 통해 사용자는 실시간으로 Quick Sight 데이터셋을 쿼리하여 현재의 비즈니스 메트릭을 확인할 수 있다.
K2 Horizon 출시 및 IFM 연구팀 AMA 안내
IFM(Foundation Models 연구소)에서 K2 Horizon을 출시했다. K2 Horizon은 0.9B에서 375B까지 크기가 다양한 6개의 완전 개방형 모델로 구성되어 있으며, 가중치, 훈련 데이터, 훈련 코드, 중간 체크포인트, 세부 훈련 로그 및 평가 자료도 오픈 소스로 제공된다. AMA는 10월 5일 오후 8시부터 10시(PT)까지 진행된다.
K2 Horizon은 0.9B에서 375B까지 다양한 모델 크기를 제공하여 연구자들이 다양한 용도로 활용할 수 있는 기반을 마련한다.
NVIDIA DOCA 에이전트 스킬로 NVIDIA BlueField 애플리케이션 개발 가속화
AI 에이전트는 개발 워크플로우의 표준 부분이 되고 있지만, 일반적인 에이전트는 NVIDIA DOCA와 같은 전문 인프라 소프트웨어를 염두에 두고 설계되지 않았다. 도메인 특정 지식이 없으면 에이전트는 추측에 의존하게 되며, 이는 인프라 개발에서 매 수정 주기가 배포 시간을 지연시킬 수 있다. DOCA는 통합 소프트웨어 플랫폼이다.
C++와 NVIDIA TensorRT RTX 샘플로 로컬 AI 앱 구축하기
로컬 애플리케이션에 AI 모델을 추가하려면 휴대 가능한 모델 형식, 신뢰할 수 있는 런타임, 그리고 대상 시스템 전반에서 작동하는 가속이 필요하다. Do Inference Now (DIN) Deploy는 이러한 요구를 충족시키기 위한 오픈소스 C++ 샘플 모음으로, ONNX Runtime과 NVIDIA TensorRT RTX 실행 제공자를 결합하여 개발자가 모델 체크포인트에서 네이티브 애플리케이션으로 이동할 수 있도록 돕는다.
DIN Deploy는 C++ 샘플을 통해 AI 모델을 로컬 애플리케이션에 통합하는 과정을 간소화한다.
NVIDIA NeMo Agent Toolkit과 Amazon S3 Vectors를 활용한 에이전트 메모리 구축
NVIDIA NeMo Agent Toolkit(NAT)은 AI 에이전트를 구축하고 최적화하기 위한 오픈 소스 프레임워크로, Amazon S3 Vectors를 영구 메모리 레이어로 사용하여 에이전트 메모리를 구현하는 방법을 설명한다. NAT는 에이전트 오케스트레이션, 프로파일링, 평가, 최적화의 네 가지 기능을 제공하며, 메모리 모듈은 대화 기록과 사용자 선호도를 저장하고 검색하는 데 사용된다. Amazon S3 Vectors는 강력한 일관성과 비용 효율적인 확장을 제공하여 대규모 벡터 저장소에 적합하다.
NAT의 메모리 모듈은 Amazon S3 Vectors를 사용하여 비용 효율적으로 수십억 개의 벡터를 저장하고 관리할 수 있다.
PewDiePie가 Heretic을 시연한 영상 공개
PewDiePie가 Heretic을 시연한 영상을 공개했다. 해당 영상에서 그는 Heretic에 대해 이야기하며, 이로 인해 더 많은 사람들이 Heretic에 대해 알게 될 것으로 기대하고 있다. 또한, Heretic 2.0이 곧 출시될 예정이라고 전했다.
PewDiePie의 영상 공개로 인해 Heretic에 대한 관심이 증가할 것으로 예상된다.
AWS에서 컨텍스트 기반 다중 무장 강도(MAB)를 활용한 개인화된 제품 전환 최적화
Generative AI는 대량의 개인화된 콘텐츠를 신속하고 저렴하게 생성할 수 있게 해준다. Amazon Payments는 Amazon SageMaker AI를 사용하여 다중 목표 컨텍스트 다중 무장 강도(MAB)를 적용해 제품 전환 퍼널을 개인화하였다. 7주간의 온라인 A/B 테스트에서 한 고객 집단은 최종 전환율에서 높은 단일 자릿수 비율의 향상을 보였으나, 다른 집단은 기존 경험과 차이가 없었다. 문제는 모델이 아닌 콘텐츠에 있었다.
Amazon SageMaker AI를 통해 다중 목표 컨텍스트 MAB를 활용하여 개인화된 콘텐츠 선택 문제를 해결할 수 있다.
Firebase의 글로벌 장애 및 구글의 대응 미흡
Firebase iOS SDK가 백엔드 변경으로 인해 2-6시간 동안 크래시가 발생하여 Firebase 분석을 사용하는 모든 앱이 중단되었다. 구글은 상태 페이지를 업데이트하지 않았고 사후 분석도 제공하지 않아 논란이 되고 있다. OpenAI는 16개의 파트너와 함께 오픈 모델 및 AI 제공에 대한 ChatGPT 비용을 할당할 수 있는 플랫폼으로 발전하고 있다.
Firebase SDK의 장애는 Firebase 분석을 사용하는 앱에 심각한 영향을 미쳤다.
Amazon Bedrock AgentCore를 통한 이벤트 기반 에이전트 구축
Amazon Bedrock AgentCore는 이벤트 스트림에 반응하는 에이전트를 구축할 수 있는 플랫폼이다. 이 에이전트는 Amazon S3와 같은 이벤트 소스에서 발생한 파일을 분석하고, 필요한 경우 인간의 승인을 요청하는 방식으로 작동한다. 기존의 채팅 기반 에이전트와 달리, 여러 이벤트를 동시에 처리할 수 있으며, 인간의 입력이 필요한 경우에만 중단된다.
Amazon Bedrock AgentCore는 이벤트 기반 인프라와 통합되어, AWS Lambda와 Amazon DynamoDB를 활용하여 완전한 서버리스 환경에서 에이전트를 운영할 수 있게 한다.
AI 구축을 위한 1.2조 달러 자금 조달 필요성
현재 AI 구축을 위해 1.2조 달러가 필요하다는 최근 추정이 있다. M&A 분야에서 독립 자문 회사들은 여전히 존재하지만, 경쟁이 치열해지고 있으며, 최근 10년간 M&A 은행 중 2013년 이후 설립된 곳은 단 한 곳뿐이다. Perella Weinberg는 최근 UK 기반 자문사 Gleacher Shacklock을 인수하기로 합의했다.
AI 구축을 위한 1.2조 달러 자금 조달이 필요하다는 점은 M&A 자문 회사들이 새로운 기회를 찾는 데 중요한 요소가 될 수 있다.
AI 안전성에 대한 두 가지 서사와 준비 부족 문제
최근 AI 안전성에 대한 두 가지 서사가 등장했다. 하나는 AI의 존재적 위험이 실제로 다가오고 있다는 주장이고, 다른 하나는 AI 리더와 내부 고발자들의 주장이 불성실하다는 것이다. 그러나 AI 안전성 문제에 대한 준비 부족은 명백하며, 예를 들어 WHO/세계은행의 2019년 보고서는 호흡기 병원체가 5천만에서 8천만 명을 죽일 수 있는 '매우 실제적인 위협'이 있다고 경고했지만, 그에 대한 정책적 대응은 미흡했다. 사이버 보안 분야에서도 시스템적 위험 모델링이 부족하다.
2019년 WHO/세계은행 보고서는 적절한 준비 비용이 대부분 국가에서 1-2달러에 불과하다고 지적했지만, 실제로는 준비가 제대로 이루어지지 않았다.