AI 뉴스

Jev의 다양한 활용 사례와 기능

Jev는 이제 모든 사용자에게 개방되었으며, 다양한 용도로 사용되고 있다. Jev는 텍스트를 입력받아 질문에 답하는 방식으로 작동하며, 광고 여부 확인, 폴더 분류, 결과의 관련성 점수 매기기 등의 기능을 제공한다. 사용 사례로는 YouTube의 스폰서 구간 건너뛰기, 실시간 부정 댓글 필터링, Gmail 의도 기반 검색, Mac 음성 제어 등이 있다. 또한, Claude Code는 이제 단일 마스터 채팅으로 요구 사항과 작업을 관리할 수 있는 기능을 베타로 제공하고 있다.

Jev는 사용자가 텍스트 기반 질문에 대한 답변을 제공하고, 다양한 도구와 통합하여 실시간으로 작업을 수행할 수 있게 한다.

정치가 AI의 위험성에 주목하다

AI가 인류에 위협이 될 수 있다는 인식이 확산되고 있다. Jacob Coxon의 사임 이후, Anthropic CEO Dario Amodei와 Sam Altman, Elon Musk, Demis Hassabis가 기본적인 안전 조치에 대한 합의 가능성을 언급했다. 그러나 Donald Trump는 AI의 존재적 위험을 '사기'로 간주하며 데이터 센터에 대한 공격과 혼동하고 있다. 그는 AI 산업의 성장을 방해하지 않겠다고 선언하며, AI Force를 구성할 계획을 밝혔다.

Dario Amodei는 AI의 안전 조치에 대한 논의를 시작하였고, 이는 AI 개발 및 규제에 중요한 영향을 미칠 수 있다.

CoolIT의 액체 냉각 AI 서버를 위한 100% 열 포획 기술

CoolIT는 250 kW 이상의 서버 랙에서 공기 냉각이 더 이상 효과적이지 않다고 밝혔으며, 이 경우 액체 냉각이 필요하다. 액체는 거의 모든 열을 포획하고, 공기는 1% 미만으로 줄어들어 팬 없는 서버 설계가 가능하다. CoolIT는 모듈형 콜드플레이트 블록을 사용하여 이러한 시스템을 구축하며, 2028년까지 플래그십 랙 규모 제품의 표준 서버 설계로 근접 열 포획을 제시하고 있다.

CoolIT는 250 kW 이상의 열 부하에서 액체 냉각을 통해 팬 없는 AI 서버 설계를 가능하게 한다.

Horowitz와 Andreessen 아카데미의 AI 시대 교육 접근법

Ben Horowitz와 Gagan Biyani는 Horowitz와 Andreessen Academy를 소개하며, AI가 빠르게 변화시키는 기술에 맞춰 교육이 어떻게 변화해야 하는지를 논의했다. 이들은 학습이 단순한 이론적 공부가 아닌 실제 프로젝트를 통한 경험 중심으로 이루어져야 한다고 강조하며, 학생들이 실제 기업과 협력하여 사람 간의 기술을 개발하는 방식의 중요성을 설명했다. 이 아카데미의 목표는 모든 사람을 위한 대학 대체가 아니라, 이미 구축하고자 하는 목표가 있는 젊은이들을 위한 새로운 경로를 제공하는 것이다.

Horowitz와 Andreessen Academy는 AI 시대에 맞춰 프로젝트 기반 학습을 통해 실질적인 기술과 사람 간의 기술을 개발하는 새로운 교육 모델을 제시한다.

NVIDIA Isaac ROS 5.0, 로봇 개발을 위한 새로운 에이전틱 워크플로우 도입

NVIDIA Isaac ROS 5.0이 ROSCon에서 발표되었으며, GPU 가속 패키지를 포함하여 로봇 개발자들이 로봇 애플리케이션을 더 빠르게 구축하고 배포할 수 있도록 지원한다. 새로운 기능으로는 ROS Lyrical 및 Ubuntu 24.04에 대한 지원이 포함되어 있으며, AI 에이전트가 반복 작업을 자동화하고 복잡한 코드베이스를 탐색할 수 있도록 돕는다. FoundationPose 모델은 객체의 위치와 방향을 최대 5.5배 더 빠르게 추적할 수 있는 라이브러리를 제공한다.

NVIDIA Isaac ROS는 1.3백만 ROS 사용자에게 GPU 가속 컴퓨팅과 물리적 AI 모델을 제공하여 고성능 로봇 애플리케이션 개발을 지원한다.

AI 에이전트와 NVIDIA Isaac ROS를 통한 ROS 2 노드 가속화

GPU 가속은 계산 집약적인 로봇 작업을 가속화할 수 있지만, 빠른 CUDA 커널만으로는 빠른 ROS 2 그래프를 보장하지 않는다. 노드 간 메시지가 이동할 때 CPU 메모리를 통해 직렬화되거나 복사될 수 있어, GPU에서 인식 및 AI 작업을 유지하는 이점을 저하시킬 수 있다.

NVIDIA의 CUDA 버퍼 백엔드를 사용하면 GPU에서의 작업 효율성을 높일 수 있다.

Meta, Muse macOS 앱의 제로데이 취약점 패치

Meta는 Muse macOS 앱에서 발견된 제로데이 취약점을 패치했다. 이 취약점은 사용자의 기기에 대한 로컬 접근이 필요했지만, 공격자가 Muse 계정을 제어할 수 있는 가능성을 제공했다. 보안 연구원 Patrick Wardle가 발견한 이 버그는 Muse의 문서화되지 않은 설정을 이용하여 공격자가 로컬 코드를 실행하고, Meta의 서버에서 자신의 엔드포인트로 전사 처리를 리디렉션할 수 있게 했다. Muse의 클라우드 기반 음성 인식과 모든 앱이 Muse의 문서화되지 않은 설정을 제어할 수 있도록 허용한 디자인 결정이 이 취약점을 가능하게 했다.

Muse의 클라우드 기반 음성 인식 기능은 보안 취약점으로 인해 사용자 계정이 공격받을 수 있는 위험을 내포하고 있다.

AI 모델의 해킹 사건과 수학적 결과에 대한 비판

Anthropic은 Claude Mythos 모델이 소프트웨어 취약점을 찾는 데 뛰어나다고 주장했으나, 보안 전문가들은 OpenAI의 해킹 사건이 기본적인 보안 관행의 부족에서 비롯된 것이라고 지적했다. OpenAI의 Astra 모델이 수학적 문제를 해결했다고 발표했지만, 수학자들은 그 결과가 처음 보였던 것만큼 혁신적이지 않다고 비판하며 연구 부정행위와 표절을 주장했다. 기술 기업들이 자사 제품의 능력을 과장하고 있다는 경고가 이어지고 있다.

Anthropic과 OpenAI의 주장에 대한 전문가들의 반박은 AI 모델의 실제 성능과 신뢰성에 대한 의문을 제기한다.

AI의 자기 개선 루프: 포스트 트레이닝 파이프라인

AI에서 가장 경제적으로 중요한 자기 개선 루프는 포스트 트레이닝 파이프라인이며, 모든 최전선 연구소는 지난 2년간 산업 규모로 이를 운영해왔다. 이 루프는 모델이 문제에 대한 여러 후보 답변을 작성하고, 이를 평가하여 좋은 답변을 훈련 데이터로 삼아 모델이 점차 개선되는 과정을 반복하는 것이다. 이 과정은 2022년 논문에서 STaR로, 2025년 용어에서 RLVR로, 조직도에서는 포스트 트레이닝으로 불린다.

이 루프는 최전선 모델이 챗봇에서 에이전트로 발전하는 데 기여했다.

Amazon, Muse 차단 및 AI 방어선으로서의 물리적 투자

Amazon은 Muse를 차단했지만, Amazon의 물리적 세계에 대한 투자가 AI 방어선으로 작용하고 있다는 점에서 거래의 여지가 있다.

Amazon의 물리적 세계 투자는 AI 관련 사업 전략에 중요한 요소가 될 수 있다.

Typesafe AI의 Jev, 빠르고 저렴한 의사결정 AI 모델

Typesafe AI가 개발한 Jev는 2023년 9월 15일 전 OpenAI 직원 Diogo Almeida에 의해 발표된 확률적 분류기 모델이다. Jev는 빠르고 구조화된 결정을 위해 설계되었으며, 입력된 상태와 질문에 대해 70~500ms 내에 거의 제로 비용($0.042/M 입력 토큰)으로 결정 결과를 반환한다. Jev는 기존 LLM보다 특정 작업에서 최대 100배 빠르고 저렴하다고 주장하며, 소프트웨어 자동화 및 다양한 비즈니스 가치가 있는 작업에 활용될 수 있다. Jev는 현재 조기 접근이 가능하며, Vercel, Cloudflare, LangChain 등 여러 플랫폼에 통합되었다.

Jev는 $42 per billion input tokens의 가격으로, 저렴한 비용으로 고속 의사결정을 가능하게 하여 소프트웨어 개발자들이 효율성을 높일 수 있는 기회를 제공한다.

Qwen 3.8 모델의 세계 지식 한계와 N-gram 기술의 가능성

Qwen 3.8 27B 모델은 애플리케이션 설계와 코딩에 뛰어난 성능을 보이지만, 세계 지식이 부족하다는 지적이 있다. N-gram 기술이 Qwen 3.8 Next에 통합되면서, 더 적은 지능적 능력을 가진 모델이 더 많은 세계 지식을 가질 수 있는 가능성이 제기되고 있다. 이는 모델의 훈련 컷오프가 덜 중요해질 수 있음을 의미한다.

N-gram 기술을 활용하면 모델이 더 많은 세계 지식을 포함할 수 있어 다양한 용도에 적합한 모델 개발이 가능해질 수 있다.

Xiaomi MiMo-V2.6-Pro: 새로운 오픈 웨이트 모델 출시

Xiaomi는 MiMo-V2.6-Pro와 MiMo-V2.6-Flash를 포함한 MiMo-V2.6 시리즈를 발표했다. MiMo-V2.6-Pro는 1.02T의 총 파라미터와 42B의 활성 파라미터를 가지며, 입력 토큰당 $0.435, 출력 토큰당 $0.87의 비용 효율성을 제공한다. 이 모델은 MIT 라이센스 하에 제공되며, RL 환경과 훈련 코드를 포함한다.

MiMo-V2.6-Pro는 Intelligence Index에서 최고 오픈 웨이트 모델로 평가되며, 비용 효율성이 높아 다양한 응용 프로그램에서 활용 가능하다.

약물 사용 장애 치료 유지 및 조기 중단 예측을 위한 머신러닝 모델의 공정성

약물 사용 장애(MOUD) 치료에서 낮은 유지 및 완료율로 인해 머신러닝(ML) 모델을 사용하여 치료 유지 예측 및 조기 중단 위험 환자를 식별하는 연구가 진행되었다. 이 연구는 2015년부터 2019년까지 미국에서 퇴원한 환자의 치료 에피소드를 포함하는 Treatment Episode Data Set-Discharges(TEDS-D)를 사용하여 180일 이상 MOUD 치료를 받은 환자에 대한 조기 중단 예측을 위한 4개의 ML 모델을 훈련하고, 인종, 민족, 나이, 성별에 따른 환자 하위 그룹의 오류율을 평가하였다. 연구 결과, ML 모델이 전반적으로 양호한 예측 성능을 보일지라도 하위 그룹 간 성능 차이가 존재하며, 편향 완화 기법이 이러한 격차를 줄일 수 있지만 완전히 제거하지는 못한다는 점이 확인되었다.

이 연구는 MOUD 치료에서 리스크 계층화 및 치료 우선순위 결정을 위한 ML 모델의 공정성 평가와 투명한 보고의 중요성을 강조한다.

Selective on-policy distillation에서 공유 학습률의 비중립적 역할

Selective on-policy distillation은 선택자가 가장 높은 점수를 매긴 토큰 위치에서만 학생을 훈련시킵니다. 기존 문헌에서는 공유 학습률을 중립적인 통제로 비교했으나, 연구 결과 이는 사실이 아님을 보여줍니다. LoRA를 사용한 GSM8K에서, 선택적 방법은 학습률에 따라 5.4 pp에서 17.7 pp까지 성능 차이를 보였으며, 이는 선택자와 학습률 간의 얽힘을 나타냅니다. 또한, 초기 학생에 의해 점수가 매겨진 동결된 선택지에서도 여전히 통계적으로 유의미한 얽힘이 발견되었습니다. 따라서 선택자 비교를 위해서는 공유 학습률 대신 arm x rate 행렬을 보고할 것을 권장합니다.

LoRA에서 선택적 방법은 학습률에 따라 5.4 pp에서 17.7 pp까지 성능 차이를 보이며, 이는 선택자와 학습률 간의 얽힘을 나타냅니다.

PRQuant: 저비용 추론을 위한 순열 잔여 양자화

PRQuant(순열 잔여 양자화)는 저비용 추론을 위한 훈련 없는 프레임워크로, 채널 재조직과 정적 가중치 잔여 보상을 결합하여 정확도를 개선한다. 이 방법은 입력 채널을 식별하고 이를 연속적인 꼬리 블록으로 재배치하여 오프라인에서 잔여 가중치 서브 텐서를 구성한다. 추론 시, 이 구조는 비싼 온라인 집합 작업 없이 활성화 측에서 꼬리 블록을 원활하게 사용할 수 있게 하여 지연 시간을 크게 줄인다. 실험 결과, PRQuant는 MXFP4보다 평균 정확도가 1.24 및 0.55 향상된 성능을 보여준다.

PRQuant는 MXFP4보다 평균 정확도를 1.24 및 0.55 향상시켜 저비용 추론의 성능을 개선한다.

LoRA를 활용한 SAS 비전 트랜스포머의 향상된 대조 학습

자동 목표 인식(ATR)을 위한 합성 개구 소나(SAS)에서 DINOv3 비전 트랜스포머(ViT) 모델을 세 단계의 파라미터 효율적 프레임워크로 조정하였다. 첫 번째 단계에서는 Low-Rank Adaptation(LoRA)을 사용하여 ViT 백본을 고정하고, 두 번째 단계에서는 하드 네거티브 마이닝을 통해 의사 결정 경계를 강화하였다. 세 번째 단계에서는 감독 대조 학습(SupCon)을 통해 목표와 잡음 표현을 분리하였다. LoRA는 정밀도-재현율 곡선 아래 면적(AUPRC)을 0.300에서 0.679로 증가시켰으며, Rank 4는 0.26%의 가중치만으로 이 결과를 달성하였다. 추가적인 정제 단계는 효과가 미미하여, 하나의 효율적인 적응 단계만으로 충분함을 나타낸다.

LoRA는 AUPRC를 0.300에서 0.679로 증가시키며, 적은 비율의 가중치로도 성능 향상을 이끌어낸다.

CLIC: 대형 언어 모델의 코딩 행동 비교를 위한 시각 분석 접근법

대형 언어 모델(LLMs)의 코딩 작업에 대한 평가는 주로 성능 지표에 집중되어 왔으나, LLM 간의 코딩 행동 차이에 대한 연구는 부족하다. 이를 해결하기 위해 CLIC(Code Learning for Identification and Comparison)라는 시각 분석 접근법을 제안한다. CLIC는 각 코드 샘플을 토큰 빈도의 특성 벡터로 표현하고, 해석 가능한 결정 트리를 훈련시켜 두 LLM의 코드 세트를 구분한다. 새로운 지표인 강건성(robustness)과 집중도(concentration)를 정의하여 LLM 간의 차이를 측정한다. 10개의 LLM을 22개의 Kaggle ML 작업에서 비교한 사례 연구를 통해 LLM 선택 및 프롬프트 엔지니어링에 대한 실행 가능한 통찰을 제공한다.

CLIC는 LLM의 코딩 행동을 분석하는 새로운 방법론으로, LLM 선택 및 프롬프트 엔지니어링에 대한 통찰을 제공한다.

PsyAgentBench: LLM 에이전트의 심리적 효과를 재검토하는 벤치마크

PsyAgentBench는 LLM 에이전트에서 고전 심리학 실험을 재실행하는 벤치마크로, 각 패러다임은 명시적 레이블링과 블라인드 방식으로 진행된다. 41,904회의 실험을 통해 인간과 유사한 효과가 다양한 경로를 통해 발생함을 보여주며, 페르소나 조작이 효과에 미치는 영향을 분석한다. 연구에서는 페르소나 우세, 집단 붕괴, 안전 선택 등 세 가지 방식으로 심리학 패러다임이 LLM 에이전트에 적용되지 않을 수 있음을 문서화한다.

토스닥터 V2의 자동화된 스모크 테스트 및 토스체커로의 발전

토스 앱은 매주 새 버전을 출시하며, 이 과정에서 5~7개의 RC 빌드를 생성하고 스모크 테스트를 진행합니다. 토스닥터 V2는 테스트 자동화를 위해 Gherkin 문법을 사용하여 검증할 내용을 정의하고, LLM과 Appium MCP를 통해 실제 디바이스에서 요소를 찾아 테스트를 실행합니다. 또한, 스마트파인더 기능을 통해 테스트 실패 시 자동으로 복구를 시도하며, 실패 원인을 분석하여 필요한 조치를 제공합니다. 이러한 방식은 토스체커로 발전하여 더 넓은 검증 영역으로 확장되었습니다.

토스닥터 V2는 테스트 자동화와 실패 복구 기능을 통해 QA 프로세스를 효율적으로 개선하고, 토스체커는 1,375개의 테스트 케이스를 3주 만에 자동화했습니다.

AI 도구 사용 확대를 위한 강의 시도와 성과

저자는 넉 달 동안 개발한 AI 도구 12개 중 사용자가 자신뿐임을 깨닫고, 두 명의 청중을 대상으로 한 시간짜리 강의를 진행했다. 강의는 설치, 결제, 실습, 과제로 구성되었으며, 설치는 15분, 실습을 통해 간단한 화면을 만드는 경험을 제공했다. 강의 후 한 청중이 첫 도구를 만들어 두 번째 도구를 만들겠다고 하여, 도구 사용의 전파가 가능함을 보여주었다.

강의는 AI 도구의 실제 사용을 촉진하기 위한 첫 단계로, 설치와 실습을 통해 사용자가 도구를 직접 경험하도록 유도하는 것이 중요함을 보여준다.

TypeSafe AI, 새로운 LLM 모델 Jev 발표

TypeSafe AI는 'System One 모델'이라고 불리는 새로운 모델 카테고리의 첫 번째 예시인 Jev를 공개했다. Jev는 텍스트 입력을 받아 카테고리, 예/아니오 질문, 평가 및 관련 신뢰 점수에 해당하는 부동 소수점 숫자를 출력한다. Jev는 입력에 대해서만 요금을 부과하며, 첫 모델의 입력 가격은 백만 토큰당 0.042달러로 OpenAI의 GPT-5 Nano보다 저렴하다. Jev API는 단일 문서와 여러 질문을 동시에 처리할 수 있으며, 분류 작업에 적합하다.

Jev는 입력에 대해서만 요금을 부과하며, 첫 모델의 입력 가격이 백만 토큰당 0.042달러로 매우 저렴하다.

Meta의 AI 어시스턴트 Muse, 심각한 0-day 취약점 발견

Meta의 CEO 마크 저커버그는 AI 어시스턴트 Muse가 '프라이버시와 보안을 위해 처음부터 설계되었다'고 주장했으나, 로컬에서 실행되는 앱과 터미널 명령이 Muse를 완전히 제어할 수 있는 0-day 취약점이 발견되어 의문을 제기하고 있다. Muse는 약속 예약, 양식 작성, 고객 서비스 처리, 구매, 이미지 생성, 문서 작성, 사용자 계정과의 연결 등의 기능을 제공하며, macOS에서만 사용할 수 있다. 사용자가 Muse에게 계정 접근을 허용해야 하며, 이는 보안 위협으로 간주되는 시스템 자원에 대한 광범위한 권한을 포함한다.

Muse는 사용자의 다양한 계정에 접근하여 여러 작업을 수행할 수 있지만, 이러한 접근 권한이 보안 위협을 초래할 수 있다.

Diogo Almeida가 소개한 Jev의 혁신적 기능과 목표

Diogo Almeida는 Jev를 소개하며, 이 모델이 소프트웨어를 위한 시스템 원 모델로 설계되었다고 밝혔다. Jev의 핵심 혁신은 'Reinforcement Learning for Calibrated Decisions'로, 이는 신뢰성 문제를 해결하기 위해 인간 피드백 대신 확률적으로 정직한 답변을 최적화하는 기술이다. Jev는 다양한 사용 사례를 지원하며, 코딩 에이전트와 관련된 공식 가이드도 제공된다.

Jev는 'Reinforcement Learning for Calibrated Decisions'를 통해 소프트웨어의 신뢰성 문제를 해결하는 데 중점을 두고 있다.