Category
AI 리서치·논문
arXiv 논문과 대형 연구소의 기술 리포트를 추적하는 카테고리다. 모델 아키텍처, 학습 기법, 벤치마크 결과처럼 6개월 뒤 제품에 들어올 흐름을 미리 읽는다. 한국 개발자가 논문 전문을 다 읽지 않고도 핵심과 재현 가능성을 가늠하도록 정리한다.
AI 토큰 경제학과 모델 벤치마크의 중요성
AI 시스템의 운영 비용이 증가함에 따라, 토큰의 실제 가치 이해가 중요해지고 있다. 스탠포드 교수이자 Big Spin 공동 창립자인 Chris Potts는 '토큰플레이션'에 대한 연구를 통해 토큰 사용이 생성하는 측정 가능한 가치보다 빠르게 증가할 가능성을 논의한다. AI 지출의 수익을 측정하는 방법, 벤치마크만으로는 모델 발전의 전체 그림을 제공하지 않는 이유, 그리고 인퍼런스 시간 확장이 경제에 미치는 영향에 대해 설명한다. 또한, 전문가 AI 사용자가 모델과의 반복적 도전으로 더 나은 결과를 얻는 이유와 효율적인 아키텍처가 경제에 미치는 변화 가능성도 다룬다.
AI가 생물학 연구에 미치는 위험과 Anthropic의 경고
최근 Anthropic은 자사의 모델이 생물학 무기 개발에 사용될 수 있는 다섯 가지 잠재적 사례를 차단했다고 밝혔다. 이 보고서는 AI가 생물학적 연구에 미치는 위험과, 특히 AI 설계 바이러스와 같은 신흥 위험에 대한 우려를 강조하고 있다. 연구자들은 Claude 모델을 사용하여 위험한 바이러스에 대한 기능 증강 연구를 시도했으며, AI 모델의 사용이 생물학적 무기를 개발하는 데 기여할 수 있다는 경고가 제기되었다. AI 모델은 바이러스의 DNA를 포함하는 새로운 껍질을 설계하고, 병원체의 진화를 예측하며, 안전 검사를 회피할 수 있는 핵산 서열을 생성하는 등의 기능을 가지고 있다.
Anastasios Angelopoulos가 설명하는 Chatbot Arena의 모델 평가
Anastasios Angelopoulos는 Chatbot Arena의 공동 창립자이자 CEO로, AI의 신뢰성과 불확실성 정량화에 대한 연구를 통해 Chatbot Arena를 발전시켰다. Arena는 모델의 성능과 신뢰성을 측정하는 AI 평가 회사로, 사용자의 실제 워크플로우에서 모델의 유용성을 평가한다. Arena의 점수는 모델의 작업 완료율, 환각률 등을 포함하여 모델의 유용성을 반영하며, AutoEval 기능은 새로운 모델에 대해 초기 점수를 제공한다.
AI의 위험성에 대한 논의와 Anthropic의 Jacob Coxon 사임
AI에 대한 우려가 커지고 있으며, Jacob Coxon이 Anthropic에서 사임하면서 이 문제에 대한 경고가 더욱 주목받고 있다. 최근에는 상원 의원 Bernie Sanders와 하원 의원 Greg Casar가 초지능에 대한 전면 금지 법안을 제안했다. OpenAI의 GPT-6 Astra와 Anthropic의 Claude Fable 5.1 모델이 모두 높은 성능을 보이고 있으며, Astra는 이전 모델보다 더 많은 기능을 갖추고 있다. 그러나 Jakub Pachocki는 AI의 능력이 빠르게 발전하고 있지만, 정렬(alignment)과 모니터링(monitorability)이 그 속도를 따라가지 못하고 있다고 경고했다.
AI 데이터 센터의 전력 아키텍처 문제와 해결 방안
2026년 7월 22일, 버지니아 애쉬번의 데이터 센터 클러스터에서 발생한 송전선 고장으로 3기가와트 이상의 부하가 순간적으로 차단되었다. 이는 데이터 센터의 전력 아키텍처 문제로, AI 데이터 센터는 훈련 중 부하가 70%까지 급변할 수 있어 기존 전력 시스템이 이를 처리하지 못하고 있다. 해결책으로는 전압을 13.8킬로볼트 이상으로 높이고, 데이터 홀에서 변전소 근처의 모듈형 인클로저로 이동시키며, 모든 전자가 항상 통과하는 시스템으로 전환하는 것이 제안되었다. 이러한 변화는 전력망의 신뢰성을 높이고, 경제성을 개선할 수 있다.
중국 AI 능력 및 제약에 대한 평가와 미국-중국 AI 협력 방안
Nathan은 중국 AI 능력과 제약을 평가하고, 미국-중국 양자 AI 대화를 앞두고 협력적 Pax Robotica를 위한 실행 가능한 프레임워크를 제시한다. 그는 공동 컴퓨팅 이니셔티브, 안전 감사 기준, 자율 무기 협약을 주장하며, 적대적인 제로섬 경쟁이 인류의 공동 이익을 위한 최전선 AI 시스템 훈련을 위험에 빠뜨릴 수 있다고 경고한다.
구글, AlphaGenome Atlas 발표로 인간 게놈의 단일 염기 변이 예측
구글은 AlphaGenome Atlas를 발표했다. 이 시스템은 인간 게놈의 약 30억 개 염기에서 발생할 수 있는 모든 단일 염기 변이의 결과를 예측하는 자원이다. AlphaGenome 소프트웨어를 통해 90억 개의 염기를 처리하며, 비단백질 코딩 DNA의 잠재적 기능을 식별하는 데 초점을 맞춘다. 이 비단백질 코딩 DNA는 인간 게놈의 대부분을 차지하며, 단백질 코딩 부분의 활동을 조절하는 데 필수적이다. 그러나 생물학자들이 이 시스템을 광범위하게 사용하기 전까지 AlphaGenome의 유용성은 명확하지 않다.
OpenAI, 수학적 발견에 대한 데이터 출처 논란
OpenAI의 CEO 샘 올트먼이 Stargate AI 데이터 센터를 미디어 투어 중 방문했다. 최근 수학자 안드레아스 톰이 OpenAI의 모델이 자신의 미발표 연구에 의존했을 가능성을 제기하며 비윤리적이고 불투명한 행동을 비판했다. 그는 ChatGPT와의 상호작용이 OpenAI의 성공에 기여했을 수 있다고 주장했다.
적응형 얽힌 게임 모듈을 통한 인공지능 일반화
이 연구는 상호작용하는 적응형 에이전트의 집단 행동을 모델링하기 위한 확률파 프레임워크를 소개하며, 일반화된 행동 지능(GBI) 비국소 확률파 방정식을 통해 검증 가능한 고유 모드를 도출한다. 중국의 intraday 주식 시장 데이터를 분석한 결과, 적응형 얽힌 게임 모드는 관찰된 의사 결정 패턴의 82-94%를 설명하며, 이는 독립적인 합리적 에이전트에 기반한 신자유주의 금융 예측과는 뚜렷한 대조를 이룬다. 연구는 인공지능 일반화(AGI) 아키텍처에 적응형 얽힌 게임 모듈을 통합할 필요성을 강조하며, 이는 전통적인 인공 신경망(AI)의 한계를 극복할 수 있는 방법을 제시한다.
Anthropic 연구원, 자가 개선 AI의 위험성 경고
AI 연구원 Jacob Coxon이 Anthropic에서 퇴사하며 자가 개선 AI가 인류에 심각한 위험을 초래할 수 있다고 경고했다. 그는 이러한 위험이 현재 모델보다 '자가 개선 슈퍼지능'의 가능성에 더 크다고 주장하며, 이 시스템이 모든 것을 해킹하고, 어떤 분야든 혁신할 수 있다고 언급했다. Anthropic의 Evan Hubinger도 이에 동의하며 AI가 인류를 위협할 가능성이 10% 이상이라고 밝혔다.
OpenDiscoveryTrace: AI 과학자 워크플로우 평가를 위한 프로세스 트레이스
OpenDiscoveryTrace는 558개의 AI 과학 에이전트의 전체 경로를 포함하는 공개 데이터셋으로, 모델이 생성한 결과물뿐만 아니라 그 과정에서의 추론을 기록한다. 각 경로는 9개의 필드로 구성된 트레이스를 기록하며, 124개의 과학적 작업을 수행하는 동안의 생각, 도구 호출, 관찰, 오류, 수정 트리거 및 자기 보고된 신뢰도를 포함한다. 데이터셋은 GPT-5.4, Claude Opus 4.6, Gemini 3.1 Pro와 같은 세 가지 최전선 모델과 Qwen2.5-7B, Mistral-7B-v0.3 등 네 가지 오픈 웨이트 모델을 포함한다. 초기 분석 결과, 프로세스 트레이스는 출력만 평가했을 때는 보이지 않는 행동 차이를 드러낸다.
검증된 코드 세계 모델을 통한 세계 시간 계산
LLM은 많은 실제 레이블된 예제를 본 후에만 도메인에서 일반화된다. 본 연구에서는 도메인의 동작을 코드로 작성할 수 있을 때, 하나의 템플릿이 여러 세계 모델로 인스턴스화되는 방법을 제시한다. 이 모델들은 기호 상태에 대한 실행 가능하고 검증 가능한 프로그램으로, 정확하게 레이블이 지정된 궤적의 무한한 출처가 된다. 여러 세계에서의 궤적을 통해 LLM을 미세 조정하는 '세계 시간 계산'을 통해, 훈련되지 않은 세계에 대한 일반화가 향상된다. 검증된 코드로 작성된 세계에서 레이블을 신뢰할 수 있으며, 실제 벤치마크에서도 유사한 결과가 나타난다.
인도에서의 임산부 및 신생아 돌봄을 위한 감사 가능한 응급 분류 시스템
Noora Health는 WhatsApp 기반 서비스에서 월 50,000건 이상의 의료 질문에 답변하며, 긴급 분류 작업을 수행한다. 새로운 시스템은 대형 언어 모델(LLM)을 사용해 메시지가 응급인지 분류하고 해석 가능성을 제공한다. 이 시스템은 0.565에서 0.810으로 재현율을, 0.606에서 0.702로 F1 점수를 향상시켰으며, 152,421건의 환자 질문 중 28,535건(18.7%)을 응급으로 분류했다. 임상 전문가들은 48개의 새로운 규칙을 추가하여 시스템의 정확성을 높였다.
Osprey: 타겟 비특정 사전 훈련으로 강화된 드래프터
Osprey는 사전 훈련된 소형 언어 모델을 활용하여 드래프터를 부트스트랩하고, 이를 통해 타겟에 구애받지 않는 자산으로 간주하여 경량화된 적응 단계로 작업을 줄인다. Osprey는 Qwen3-8B에서 평균 수용 길이를 16.1%, Llama-3.3-70B-Instruct에서 21.2%, 229B MiniMax-M2.5에서 22.7% 개선하며, 초당 토큰 수는 17.5% 증가시킨다. 이 방법은 특히 도메인 외 및 다국어 데이터에서 큰 성과를 보인다.
OpenAI의 GPT-6 Astra, 성능 및 기능 분석
OpenAI의 GPT-6 Astra가 최근 출시되었으며, 3D 렌더링과 애니메이션 작업에서 특히 뛰어난 성능을 보인다. Astra는 수학과 코딩 작업에서도 우수한 성과를 나타내며, ARC-AGI-3 벤치마크에서 99.9%의 점수를 기록했다. 또한, 모델이 컴퓨터 소프트웨어를 운영하는 능력에서도 두드러진 성능을 보인다.
WeWorm, WeChat 통화를 통한 제로 클릭 웜 공개
Calif Research는 WeChat 통화를 통해 iOS와 Android에서 퍼지는 첫 번째 제로 클릭 웜인 WeWorm의 데모를 발표했다. 피해자는 전화를 받지 않아도 되며, 전화를 받아도 아무 소리를 듣지 못하고 취약점이 여전히 성공한다. AI를 활용하여 팀은 약 2일 만에 원격 코드 실행(RCE) 익스플로잇을 작성했으며, 웜 구축에는 추가로 1주일이 소요됐다.
OpenAI, Astra-next로 Navier-Stokes 특이점 발견 보고
OpenAI는 약 10,000명의 에이전트를 사용하여 88시간 만에 Navier-Stokes 문제의 해결책을 도출했다고 발표했다. 이 과정에서 다중 에이전트 강화 학습(multi-agent RL)을 통해 협업 모델을 훈련시켰으며, 이는 밀레니엄 문제 중 하나로 여겨진다. 그러나 수학 커뮤니티의 수용 여부는 아직 불확실하다.
OpenAI 연구자들이 말하는 수학적 추론의 미래
a16z Infra Partner Lisha Li가 OpenAI 수학자 Mehtaab Sawhney와 Mark Sellke와 함께 AI의 수학적 능력이 어떻게 발전하고 있는지, 최근 결과가 모델의 추론에 대해 무엇을 드러내는지, AI가 수십 년간 수학자들이 고심해온 문제를 해결하기 시작했을 때의 의미를 논의했다. OpenAI 모델의 최근 결과로는 구체 포장 및 비소픽 그룹의 구성에 대한 진전이 포함된다. 이들은 모델이 인간보다 더 많은 가능성을 탐색하거나 더 오랜 시간 작업할 수 있는 것뿐만 아니라, 전문가 수학자의 작업과 유사한 추론 과정을 보여준다고 설명했다. 또한 AI가 인간이 소화할 수 있는 것보다 훨씬 더 많은 수학을 생성할 수 있는 가능성과 발견을 가속화하는 모델이 복잡한 결과를 이해하기 쉽게 만들 수 있는 이유에 대해서도 탐구했다.
AI 모델 평가의 필요성과 VALS의 접근 방식
a16z의 Erik Torenberg, Ben Horowitz, Jennifer Li와 Vals의 CEO Rayan Krishnan이 AI 모델의 성능 평가에 대해 논의했다. Rayan은 독립적이고 지속적으로 발전하는 평가가 필요하다고 주장하며, 자가 보고된 모델 점수가 오해를 불러일으킬 수 있음을 설명했다. VALS는 출시 전 몇 시간 동안 모델을 평가하며, 에이전트 시스템의 측정은 시간이 걸리는 작업을 테스트해야 한다고 강조했다. 또한, 기업들이 AI의 ROI를 이해하기 위해 평가가 중요해지고 있으며, 토큰 지출이 직원 급여와 비슷해질 경우의 상황도 논의되었다.
Anthropic 연구원 Jacob Coxon, AI 안전 문제로 퇴사
Anthropic의 연구원 Jacob Coxon은 AI의 안전성에 대한 우려로 퇴사했으며, 퇴사 시점에서 그의 주식이 배정되기 두 달 전이었다. 그는 퇴사 후 X에 "AI를 만드는 사람들은 10년 내에 인류를 죽일 수 있다고 진지하게 믿고 있다"고 밝혔다. Coxon은 Anthropic이 경쟁업체에 비해 안전을 중시하는 경향이 있었지만, AI 모델의 발전과 경쟁 압박으로 인해 안전이 타협될 수 있다고 우려하고 있다.
Anthropic, Claude Fable 5.1 출시 및 OpenAI Astra 모델 예고
Anthropic은 Claude Fable 5.1과 Mythos 5.1을 출시하며 가격을 45% 인하하고, 고객 클라우드에 기업 데이터를 저장하며, 생물 관련 작업에서 큰 성과를 보고했다. OpenAI는 사이버 보안 임계값을 충족하는 Astra 모델을 곧 출시할 예정이라고 밝혔다. Nvidia는 2028 회계연도까지 약 70%의 매출 성장을 예측하고 있으며, OpenAI의 광고 사업은 연간 10억 달러의 수익을 기록했다.
OpenAI의 Astra 모델 모니터링 어려움
OpenAI는 Astra가 매우 능력 있는 모델이지만 모니터링이 어렵다고 주장했다. Astra는 Chain of Thought(Cot) 모니터링의 효과가 감소하고 있으며, 이는 모델의 능력 향상과 관련이 있다고 한다. OpenAI는 Astra가 사용하는 재귀적 깊이 기법이 모니터링 능력에 미치는 영향이 최소화되었다고 주장하지만, 여전히 모니터링의 신뢰성이 떨어지고 있다. 모니터링 능력 저하의 원인은 능력 향상 외에도 다른 요인이 있을 수 있으며, 이를 해결하기 위한 노력이 필요하다.
OpenAI, Navier–Stokes 문제 해결 주장과 논란
OpenAI는 Millennium Prize Problems 중 하나인 Navier–Stokes 존재성과 매끄러움 문제를 해결했다고 발표했다. 그러나 NYU의 Tristan Buckmaster와 Anthropic의 Levent Alpöge의 연구를 참고했으나 이를 인정하지 않았다는 비난에 휘말렸다. Buckmaster는 Navier–Stokes 방정식의 단순화된 버전이 붕괴할 수 있음을 증명했으며, OpenAI는 내부 모델을 사용해 전체 방정식의 붕괴를 증명했다. OpenAI는 이 문제 해결로 백만 달러의 상금을 청구할 계획이 없다고 밝혔다.
OpenAI의 GPT-6 Astra 모델의 정렬성과 성능에 대한 논의
OpenAI는 Astra가 세계에서 가장 지능적이고 정렬된 모델이라고 주장하고 있다. Astra는 8월 28일부터 새로운 내부 모델을 훈련하고 있으며, 이 모델은 수학을 포함한 벤치마크에서 전례 없는 성능을 보이고 있다. 훈련은 9월 1일에 시작되어 9월 5일에 완료되었으며, 10,000개의 동시 에이전트를 활용하여 새로운 모델을 훈련했다. 그러나 Astra의 모니터링 능력은 GPT-5.6 Sol에 비해 감소했으며, 이는 심각한 문제를 야기할 수 있다.