AI 뉴스

Microsoft AI CEO Mustafa Suleyman, AI 안전 및 규제에 대한 의견

Mustafa Suleyman, Microsoft AI CEO는 AI 안전과 규제에 대한 강한 의견을 가지고 있으며, 최근 'Humanist AI Code of Conduct'라는 37페이지의 문서를 발표했다. 그는 AI 의식에 대한 Anthropic의 철학을 비판하고, AI 모델의 정렬(alignment) 개념에 대해 논의했다. Suleyman은 기술이 인류에 봉사해야 하며, 안전 장치 없이 이러한 시스템이 위험할 수 있다고 경고했다.

Microsoft의 'Humanist AI Code of Conduct'는 AI 개발에 대한 원칙을 제시하며, 기술이 인류에 봉사해야 한다는 명확한 입장을 담고 있다.

AI가 일자리 감소를 초래할 것이라는 글로벌 조사 결과

Pew Research의 글로벌 조사에 따르면, 37개국 중 34개국에서 응답자들은 AI가 향후 20년 내에 일자리 손실을 초래할 것이라고 믿고 있다. 조사에는 42,151명이 참여했으며, 특히 호주, 한국, 미국 등 부유한 국가에서 우려가 높았다. 한국에서는 76%가 AI로 인해 일자리가 줄어들 것이라고 응답했다.

조사 결과에 따르면, 한국에서 76%의 사람들이 AI가 일자리 손실을 초래할 것이라고 믿고 있다.

Zapier CEO Wade Foster, 헤드리스 AI 도구와 Zapier MCP에 대해 논의

Zapier CEO Wade Foster는 헤드리스 AI 도구로의 전환과 Zapier MCP가 사용자들의 일상 업무에 워크플로우와 맥락을 직접 제공하는 방법을 탐구했다. 그는 Zapier의 AutomationBench 데이터를 바탕으로, 효과적인 에이전틱 시스템은 특정 단계에서 AI 추론을 예약하고 나머지 단계에서는 결정론적 코드를 사용해야 한다고 주장했다. 또한, 좌석 기반 소프트웨어 가격 책정이 사라지고 있으며, 최전선 모델이 현실적인 기업 작업에서 어떻게 수행되는지와 조직 내 AI 변환의 실제 모습에 대해서도 논의했다.

Zapier MCP는 사용자들의 일상 업무에 AI 기반 워크플로우를 통합하여 효율성을 높일 수 있다.

Claude Cowork와 Claude Chat 통합 및 새로운 AI 모델 발표

Claude Cowork가 Claude Chat과 통합되어 더 이상 별도의 탭 없이 모든 연결된 앱과 기술을 사용할 수 있게 된다. OpenAI는 ChatGPT와 ChatGPT Work의 통합을 계획하고 있으며, Claude Artifacts는 Docs와 Slides를 위한 전용 제품을 제공한다. 새로운 AI 모델 Jev는 빠른 판단을 요구하는 소프트웨어에 적합하며, 5배 저렴한 입력 비용을 자랑한다. Union Alpha는 OpenRouter와 Cloudflare를 통해 제공되며, 5.6 Luna의 비용으로 DeepSWE 벤치마크에서 5.6 Sol을 초과 성능을 보인다.

Jev는 빠른 판단을 요구하는 소프트웨어에 적합하며, 5배 저렴한 입력 비용으로 효율성을 높일 수 있다.

AI 안전성 논의와 규제 요구 증가

Jacob Coxon의 사임 이후 AI 안전성에 대한 논의가 급격히 확산되었다. Anthropic CEO Dario Amodei는 'We Must Pace the Frontier'라는 발언을 하며 안전성을 위한 조치를 약속했고, OpenAI와 Google도 협력하기로 했다. AI가 인류에 미칠 위험에 대한 우려가 커지면서 사람들은 AI의 위험성을 15%에서 30%로 두 배로 늘려 추정하고 있으며, 정치인들은 규제와 긴급 청문회를 요구하고 있다. Anthropic은 악의적인 사용 사례에 대한 보고서를 발표했으며, 여러 중국 AI 연구소가 사용자 데이터를 Anthropic에 전달한 것으로 나타났다.

Anthropic은 AI의 악용을 방지하기 위해 효과적으로 대응하고 있다고 보고하고 있다.

Matt Pocock의 AI 기술과 교육 경로

Matt Pocock는 'grill-me' 스킬을 개발했으며, 이는 사용자를 지속적으로 인터뷰하도록 지시하는 간단한 기능이다. 그는 Vercel에서 일하며 TypeScript 코스를 개발했고, 인기 있는 두 분짜리 TypeScript 팁 비디오를 제작했다. Matt는 클라우드 기반 에이전트 설정이 로컬 에이전트보다 더 효율적이라고 믿으며, 'tracer bullet' 개념을 활용해 에이전트가 더 나은 코드를 생성하도록 유도하고 있다. 또한, 그는 주말에는 일하지 않으며 가족과의 시간을 중요시한다.

Matt Pocock는 'grill-me' 스킬을 통해 AI 에이전트가 사용자와의 상호작용을 개선할 수 있음을 보여준다.

중국과 미국의 AI 발전 방식: 알고리즘 효율성 대 인프라 규모

중국의 DeepSeek와 Moonshot 같은 연구소는 알고리즘 효율성을 강조하며 모델의 스마트함을 높이기 위해 아키텍처를 분석하고 최적화를 시도하고 있다. 반면, 미국의 OpenAI는 Stargate 프로젝트와 같은 대규모 인프라를 통해 경쟁하고 있다. 이러한 접근 방식의 차이는 모델 아키텍처와 작업을 수행하는 에이전트의 가격에 영향을 미친다. 또한, 알고리즘의 혁신이 더 큰 훈련 실행을 시도할 가치가 생길 수 있음을 보여준다.

OpenAI의 Stargate 프로젝트는 미국의 대규모 인프라 접근 방식을 대표한다.

H3 Max와 실시간 생성 비디오의 발전

a16z의 Jennifer Li는 fal의 공동 창립자 Gorkem Yurtseven과 엔지니어링 책임자 Batuhan Taskaya와 함께 실시간으로 실행 가능한 생성 비디오의 변화에 대해 논의했다. H3 Max는 MiniMax의 오픈 웨이트 비디오 모델의 후속 훈련 버전으로, 모델 후훈련과 시스템 및 하드웨어 최적화를 결합하여 생성 시간을 크게 단축하면서 품질을 유지했다. 이 속도 덕분에 이전 장면을 기억하고 새로운 지시에 반응할 수 있는 연속 비디오 실험이 가능해졌다. 다음 도전 과제는 속도보다 카메라 움직임, 조명, 캐릭터, 모션 및 립 싱크와 같은 제어에 관한 것일 수 있다.

OpenAI, Navier–Stokes 밀레니엄 문제 해결 발표

OpenAI는 9월 8일, 내부 모델이 Navier–Stokes 존재 및 매끄러움 문제를 해결했다고 발표했다. 이 문제는 2000년 클레이 수학 연구소가 제시한 7개의 밀레니엄 문제 중 하나로, 각 문제는 100만 달러의 상금을 수여받는다. OpenAI는 9월 1일부터 약 10,000명의 에이전트를 동원해 문제 해결 작업을 시작했으며, 88시간 후에 해결책을 도출했다. 그러나 이 과정에서 NYU의 수학자와의 신용 분쟁이 발생했다.

Steve Yegge, Gas Town 종료 및 AI 엔지니어의 Astra 전환 비용 증가 보고

Steve Yegge는 Gas Town을 종료하고, 수천 달러를 AI 코딩 에이전트 구독에 지출했음에도 불구하고 단 한 개의 프로젝트만을 완성했다고 밝혔다. Databricks는 AI 엔지니어들이 Astra로 전환할 경우 전체 비용이 60% 증가한다고 보고했다.

Databricks의 AI 엔지니어들이 Astra로 전환할 때 비용이 60% 증가하는 것은 기업들이 AI 도구 선택 시 비용 효율성을 재고해야 함을 시사한다.

XingChen-AGI의 Xing4.0-29B-A4B 모델 소개

Xing4.0-29B-A4B는 중국 텔레콤 인공지능 기술 회사에서 개발한 차세대 대형 언어 모델로, 총 29B 파라미터를 가지며, 토큰당 4B가 활성화된다. 이 모델은 256K의 컨텍스트 길이를 기본으로 지원하며, 512K로 확장 가능하다. Ascend NPU 플랫폼에서 MindSpore 프레임워크를 사용하여 훈련된 최초의 모델로, 복잡한 엔지니어링 작업에 최적화되어 있다. 또한, 다단계 계획, 도구 호출 및 복잡한 추론 체인 실행을 지원하는 에이전트 지향 아키텍처를 갖추고 있다.

Xing4.0-29B-A4B는 256K의 컨텍스트 길이를 지원하여 긴 문맥을 처리하는 데 유리하다.

Boson AI의 Alex Smola와 함께하는 음성 AI에서 AI 아바타로의 발전

Boson AI의 CEO Alex Smola는 음성 AI가 자연스러운 대화를 구현하는 데 여전히 어려움이 있다고 언급하며, 음성 에이전트에서 오디오 비주얼 에이전트 및 AI 아바타로의 발전 경로를 탐구한다. 그는 실시간 음성 처리의 기술적 트레이드오프, 즉 오디오 토큰화, 지연 시간, 모델 크기 및 추론 비용에 대해 논의하며, 이러한 시스템이 시각적 요소를 포함할 때의 변화도 설명한다. 또한 AI의 감정 지능과 인간 상호작용에서 학습하는 방법에 대해서도 다룬다.

실시간 음성 처리의 기술적 트레이드오프는 AI 아바타 개발에 중요한 요소이다.

Jev 아키텍처와 관련된 오픈소스 모델 및 데이터셋 공개

작성자는 2025년 3월에 Jev 아키텍처를 개발하고, arxiv에 논문을 발표했으며, 모델과 데이터셋을 Hugging Face에 공개했다. 이 모델은 PPO를 사용하여 순차 임베딩을 통해 전환 경로를 출력하고, Jev는 RLCD를 통해 신뢰도 분포와 스키마 선택을 출력한다. 2025년 9월에 발표된 두 번째 작업은 Jev가 현재 제안한 것과 동일하다.

작성자가 공개한 모델은 Hugging Face에서 확인할 수 있으며, RL을 기반으로 한 전환 경로 예측 기능을 제공한다.

Temperon: SAM 품질을 1/3의 시간으로 달성하는 방법

Temperon은 Sharpness-aware minimization(SAM)의 비용을 줄이기 위해 제안된 방법으로, 훈련의 첫 43% 동안은 plain-SGD를 사용하고, 이후 SAM으로 래핑된 Muon 리파이너로 전환하여 최종 cosine anneal을 적용한다. CIFAR-10/100, SVHN, Tiny ImageNet 데이터셋에서 Temperon은 정확도에서 최상의 full-time-SAM 레시피와 일치하며, 세 가지 데이터셋에서 목표 도달 시간을 각각 35%, 34%, 32% 단축시켰다. Muon 리파이너는 고정된 조건에서 +0.85pp의 성능 향상을 가져온다. 이 방법은 GPT-2 사전 훈련과 GLUE 미세 조정에도 적용 가능하다.

Temperon은 SAM 품질을 29% 더 빠른 시간에 달성할 수 있는 방법을 제공한다.

EvolveTrade: 자기 진화하는 LLM 거래 에이전트를 위한 경험 기반 정책 개선

EvolveTrade는 LLM 거래 에이전트의 시스템 프롬프트를 텍스트 매개변수화된 정책으로 취급하는 자기 진화 프레임워크이다. 이 프레임워크는 정책 에이전트가 누적된 결정 추적과 실현된 포트폴리오 피드백을 사용하여 정책을 수정하고, 이를 통해 정보 수집 및 포트폴리오 구성 절차를 개선한다. 실험 결과, EvolveTrade는 고정 정책 LLM 기준선에 비해 샤프 비율과 누적 수익률을 향상시키는 것으로 나타났다.

EvolveTrade는 고정 정책 대신 자기 진화하는 정책을 통해 LLM 거래 에이전트의 성능을 개선할 수 있다.

메트로폴리탄 미술관 아카이브에서의 비전-언어 모델 감사 연구

이 연구에서는 메트로폴리탄 미술관의 오픈 액세스 컬렉션에서 역사적 예술 작품 메타데이터를 사용하여 Contrastive Language-Image Pretraining (CLIP) 모델의 사회적 편향을 감사한다. 총 1,500개의 객체 중 743개가 성별이 기재된 작품으로, 남성 534개, 여성 209개, 익명 618개이다. OpenAI CLIP과 OpenCLIP 모델 모두에서 성별 효과가 통계적으로 유의미하지 않음을 보여주었고, 예술가 성별이 조건부 효과를 미치지 않음을 확인하였다. 또한, 전반적인 제로샷 평가 지표가 모델의 절대 공정성을 증명하는 것이 아니라는 점을 강조하였다.

이 연구는 CLIP 모델의 감사에서 메타데이터의 혼란 요소를 구분하는 것이 필요함을 보여준다.

AI 지원 주장 독립적으로 도전 가능하게 만드는 출판 권한과 검증 가능한 출판 기록 프로토콜

AI 지원 주장은 증거, 분석, 인간 승인, 프레젠테이션 및 수정 이력이 서로 다른 상태를 참조할 때 권위 있게 보일 수 있다. 본 연구에서는 Publication Authority라는 비전이전 가능하고 단일 사용 가능한 출판 기능을 개발하고, 이를 PAC-2026 (Publication-Accountability Calculus)이라는 기계 판독 가능한 AIJIM 프로토콜 후보로 구현하였다. SF-4는 대체 가능한 바인딩을 위해 설계된 고정 프로필 사양으로, 여섯 가지 의무가 증거, 실행 및 아티팩트, 측정 공개, 승인, 표면 일치 및 생애 주기 연속성을 관리한다. 이 연구는 110,764개의 안전한 도달 가능한 상태를 탐색하고, 76개의 안전하지 않은 구성에서 예상되는 위반 또는 관찰자 반모델을 생성하였다.

LLM의 다크 트라이애드 성격 특성 표현 왜곡 연구

이 연구는 현대 LLM이 '좋게 보이기'와 '나쁘게 보이기' 조건에서 다크 트라이애드 특성(마키아벨리즘, 나르시시즘, 정신병)의 표현을 어떻게 조절하는지를 조사하였다. 7개의 최신 모델이 고용 선택과 법의학 평가라는 두 가지 맥락에서 평가되었으며, 결과적으로 대부분의 모델이 '좋게 보이기' 조건에서 다크 트라이애드 점수를 낮추고 '나쁘게 보이기' 조건에서 높이는 경향을 보였다. 마키아벨리즘과 나르시시즘은 가장 강한 변화를 보였고, 맥락에 따라 반응이 달라지는 것으로 나타났다.

이 연구는 LLM의 응답 왜곡을 평가하는 데 있어 심리측정 패러다임의 가치를 강조하며, LLM의 벤치마킹 및 정렬 평가에 중요한 함의를 가진다.

도시 보행자 흐름의 센서 무결성을 위한 물리 제약 디지털 트윈

도시 보행자 수집 시스템은 경제 지표, 계획 결정 및 안전 운영에 기여하지만, 이 시스템에 구축된 디지털 트윈은 수집된 데이터를 진실로 간주한다. 본 연구에서는 도시 규모의 보행자 감지에서 은밀한 허위 데이터 주입이 발생할 경우를 분석하며, 보행자 거리 그래프에서의 흐름을 추정하고, 학습된 그래프 지역화 이득을 통해 수치를 통합한다. 멜버른의 6년 데이터를 기반으로 한 결과, 단일 손상 장치에 대해 0.54의 공격 여유가 측정되었고, 전체의 1/3이 손상되었을 때는 0.19로 감소하였다. 거리 그래프를 사용했을 경우 공격 여유는 0.09로 줄어들었다.

멜버른 데이터에서 단일 손상 장치에 대해 0.54의 공격 여유를 기록한 것은 보행자 흐름의 정확한 추정에 있어 물리 법칙의 중요성을 보여준다.

Andrew Scull과 정신의학 역사에 대한 팟캐스트

Andrew Scull은 정신의학의 역사학자로, 팟캐스트에서 정신의학의 위기, 정신질환의 분류, 정신병원, 유전학, 나치와의 연관성, 아이스픽 로보토미, 말라리아 치료법, 인슐린 혼수 요법, 전기충격요법(ECT), 프로이트와 정신분석, 제2차 세계대전과 인지 행동 치료(CBT), 항정신병 약물, 항우울제, 정신의학의 미래에 대해 논의한다.

Wispr Flow는 AI 기반 음성 받아쓰기 앱으로, 정신의학 관련 팟캐스트의 내용을 기록하고 정리하는 데 활용될 수 있다.

GitHub Copilot 런타임을 Rust로 마이그레이션

GitHub Copilot CLI, GitHub Copilot 앱, GitHub Copilot SDK는 Copilot 에이전트 런타임에 의해 지원된다. 이 런타임은 원래 TypeScript로 작성되었으나, 이제 Rust로 800,000줄 이상으로 재작성되었다. AI 에이전트가 대부분의 코드를 작성하였으며, 성능이 크게 향상되었다. Copilot 런타임은 Microsoft, GitHub 및 생태계 솔루션을 지원하며, GitHub Copilot SDK를 통해 다양한 제품들이 공통된 런타임을 활용하고 있다.

Copilot 런타임의 성능 향상은 GitHub Copilot SDK를 사용하는 다양한 제품의 안정성과 신뢰성을 높인다.

AI 에이전트를 활용한 3D 씬 준비 및 검증 방법

Agentic AI 워크플로우는 물리적 AI 시스템을 위한 디지털 트윈을 준비하고 검증하는 데 사용될 수 있다. 에이전트는 3D 씬을 검사하고, OpenUSD에서 시뮬레이션 관련 데이터를 작성하며, 물리적 속성을 추가하고, 사전 비행 뷰를 렌더링하며, 결과를 시뮬레이션 준비(SimReady) 요구 사항에 맞게 검증한다. 이 워크플로우는 Blender의 씬에서 NVIDIA를 위한 시뮬레이션 준비 완료된 OpenUSD로의 전환 과정을 따른다.

Apple, M-series Ultra 칩을 탑재한 AI 서버 개발 중

Apple은 Mac 데스크탑에 사용되는 M-series Ultra 칩을 활용한 AI 서버를 개발하고 있다. 이 서버는 2029년에 출시될 것으로 예상되며, 20년 만에 시장에 출시되는 Apple의 첫 서버가 될 것이다. 이 서버는 두 가지 구성으로 제공될 예정이며, 각각 두 개 또는 네 개의 M8 Ultra 칩을 포함할 것이다. 이 프로젝트는 Apple의 CEO인 John Ternus의 지원을 받으며 시작되었고, AI 개발자들 사이에서 Apple 하드웨어의 인기가 급증하고 있다.

M-series Ultra 칩을 사용하는 AI 서버는 AI 워크로드를 처리하는 데 적합할 것으로 보인다.

구글의 영상 분석, 이미지 디자인, 시계열 예측 도구 업데이트

구글은 8월 말부터 9월 첫째 주 사이에 영상 분석, 이미지 디자인, 시계열 예측 도구를 업데이트했다. 이 세 가지 도구는 각각의 기능을 단독으로 사용할 수 있지만, 통합하여 활용할 경우 1인 사업의 비용 구조에 영향을 줄 수 있다. 관련 영상은 iampauljames 채널에서 9월 15일에 업로드되었다.

이 세 가지 도구를 통합하여 활용하면 1인 사업의 비용 구조를 변화시킬 수 있다.