AI 뉴스
NVIDIA T4에서 A100 대비 170배 느린 PyTorch 모델 실행
NVIDIA A100에서 포인트 추적 모델이 반 비디오당 약 0.5초 소요되는 반면, T4에서는 같은 호출이 약 85초 소요되어 170배 느려진다. 비디오는 256×256 해상도의 47프레임으로, 배치는 1이다. 현재 GPU는 99% 활용 중이며, 모델은 GPU에서 실행되고 있다. torch.backends.cudnn.benchmark를 활성화해도 효과가 없고, 두 개의 독립적인 T4 머신에서 동일한 느린 성능이 나타났다.
T4에서 A100보다 170배 느린 성능의 원인을 파악하는 것은 모델 최적화에 중요하다.
AI 연구자로서의 경로와 경험 공유 요청
작성자는 2019년부터 AI와 머신러닝에 관심을 가지게 되었으며, 2022년부터 오디오 및 음악 기술 분야의 AI 연구자가 되기 위해 노력하고 있다. 현재 AI 및 머신러닝 석사 과정을 진행 중이며, 박사 과정을 계획하고 있다. 연구 논문을 ISMIR에 제출했으나 거절당했지만, 피드백을 통해 발전할 기회를 얻었다. AI 연구자들에게 첫 연구 역할을 얻기 위한 자격, 교육, 프로젝트, 출판물 등에 대한 경험을 공유해 줄 것을 요청하고 있다.
Generative SNUPI를 활용한 DNA 오리가미 설계
한국의 과학자들이 DNA 오리가미를 설계하기 위해 Generative SNUPI라는 AI 모델을 개발했다. 이 모델은 사용자가 요청한 형태로 DNA 구조를 설계할 수 있으며, 화학 규칙을 고려하여 DNA 가닥이 특정 형태로 접히도록 지시한다. 연구팀은 서울대학교와 한양대학교 소속이며, 이 연구 결과는 Nature Communications에 게재될 예정이다. Generative SNUPI는 복잡한 형태를 입력받아 이를 DNA 형태로 변환하는 확산 모델을 적용하여 DNA 서열을 생성한다. 이 기술은 약물 전달 및 면역 요법과 같은 생명 구호적 응용 가능성을 지니고 있다.
Generative SNUPI는 DNA 서열을 설계하여 사용자가 요청한 형태로 나노 스케일 복제를 가능하게 한다.
OpenAI의 SWE-Bench Pro 감사 결과와 코딩 평가의 한계
OpenAI의 SWE-Bench Pro 감사 결과, 정밀한 점수가 코딩 능력을 제대로 측정하지 못할 수 있음을 보여주었다. SWE-Bench Pro는 이전 코딩 평가의 약점을 해결하기 위해 설계되었으며, 731개 과제에서 모델 성능이 23.3%에서 80.3%로 증가했지만, OpenAI는 결과의 30%가 결함이 있다고 추정했다. 감사 결과, 200개 과제(27.4%)가 결함으로 분류되었고, 소프트웨어 엔지니어들이 평가한 결과 249개 과제(34.1%)가 결함으로 나타났다. OpenAI는 SWE-Bench Pro의 채택을 권장하지 않기로 했다.
OpenAI는 SWE-Bench Pro의 30%가 결함이 있다고 추정하며, 이는 코딩 평가의 신뢰성 문제를 제기한다.
NVIDIA, 일본과 함께 AI 및 로봇 기술을 모든 산업에 적용
NVIDIA와 일본의 파트너들이 AI 생태계의 최신 발전을 선보이고 있다. NVIDIA CEO 젠슨 황은 일본의 AI 리더들과 만나 AI와 로봇 기술의 융합을 통해 새로운 경제 엔진을 창출할 수 있다고 강조했다. 일본은 정밀 제조와 대규모 제조에서 오랜 역사를 가지고 있으며, AI와 로봇 기술을 결합하여 생산성을 높일 수 있는 기회를 가지고 있다. 또한, 황은 일본의 공급망 리더들과 AI 주도의 미래를 구축하기 위한 논의를 진행했다.
AI와 로봇 기술을 결합하면 일본의 노동력 부족 문제를 해결하고 국가 생산성을 증가시킬 수 있다.
AI 하드웨어 경제와 NVIDIA의 경쟁력 분석
SemiAnalysis의 창립자 Dylan Patel이 Erin Price-Wright, Guido Appenzeller, Erik Torenberg과 함께 AI 인프라의 미래에 대해 논의한다. 이 대화에서는 NVIDIA의 경쟁 우위, Google, Amazon, Meta의 맞춤형 칩의 부상, 최전선 AI 모델의 경제학, 산업의 다음 단계에 영향을 미치는 인프라 제약을 다룬다. 또한 AI 스타트업, 수출 통제, 로봇 공학, 기업 소프트웨어에 대해서도 논의하며, 단순히 NVIDIA를 복제하는 것만으로는 성공적인 AI 하드웨어 회사를 구축할 수 없다는 점을 강조한다.
NVIDIA의 경쟁 우위를 이해하는 것은 AI 하드웨어 개발에 중요한 통찰을 제공한다.
InceptionV1 모델의 1x1 컨볼루션 뉴런 분석
저자는 mechanistic interpretability 분야에서 작업을 시작하였으며, InceptionV1 모델의 1x1 컨볼루션 뉴런을 분석하였다. 이 연구에서는 뉴런이 '보는' 것, 즉 수용 필드와 뉴런의 가중치의 하다마르 곱을 클러스터링하여 뉴런이 감지하는 모든 패턴을 도출하였다. 이 과정에서 자동차, 고양이, 개와 같은 명확한 단일 의미 클러스터와 함께 글자, 인간 얼굴 등 저활성화 클러스터도 발견하였다. 또한, 저활성화 클러스터의 종속 뉴런들이 같은 개념에 반응하며, 긍정적 및 부정적 가중치가 균등하게 분포되어 패턴을 잡아내는 증거를 발견하였다.
InceptionV1 모델의 1x1 컨볼루션 뉴런 분석을 통해 뉴런의 감지 패턴을 클러스터링하는 새로운 기술을 제시하였다.
논리적 의사결정의 실패 원인과 사용자 감정의 중요성
성공적인 서비스를 벤치마킹하여 새로운 기능을 추가하려는 시도가 실패로 이어지는 이유는, 각자의 합리적인 판단이 사용자 감정과 맞지 않기 때문이다. 예를 들어, AI로 콘텐츠를 만드는 조직이 숏폼과 공개 피드 기능을 추가했지만, 사용자들은 개인적인 공간을 원했기 때문에 거부감을 느꼈다. 이처럼 각자의 판단이 일치하지 않아 발생하는 어긋남이 실패의 원인으로 지적된다.
AI로 콘텐츠를 만드는 조직이 숏폼과 공개 피드를 추가할 때, 사용자의 감정과 요구를 고려하지 않으면 실패할 수 있다.
Mirror Theory와 유효 경로 엔트로피(VPE) 개념 소개
Mirror Theory는 지능형 시스템을 반복적인 반사를 통해 지속할 수 있는 일관된 연속성으로 연구해야 한다고 주장한다. 유효 경로 엔트로피(VPE)는 검증된 연속성 용량을 측정하는 유한 예산 지표로, 미러 상태, 롤아웃 프로토콜, 검증자, 모드 맵을 기반으로 한다. VPE는 성공적인 롤아웃에서 도달 가능한 연속성의 확률과 검증된 연속성 모드의 다양성을 두 부분으로 분해한다. Qwen2.5-1.5B 모델은 160 토큰에서 가장 강력한 미러 호라이즌을 실현했으며, 이는 미러 호라이즌이 단순한 매개변수 수가 아니라 제한된 반사 프로토콜 하에서 접근 가능한 검증된 연속성 용량임을 보여준다.
Qwen2.5-1.5B 모델은 160 토큰에서 가장 강력한 미러 호라이즌을 실현하여, 제한된 반사 프로토콜 하에서의 검증된 연속성 용량의 중요성을 강조한다.
PhiCalNet을 통한 단일 샷 프린지 프로젝션 프로파일로메트리의 깊이 회복 개선
단일 샷 프린지 프로젝션 프로파일로메트리(FPP) 네트워크는 객체 경계에서 깊이를 회복하는 형태 우선 단축을 활용할 수 있다. PhiCalNet은 감싸진 위상 표현 $( ext{sin} heta, ext{cos} heta)$을 출력하고 이를 고정된 미분 가능 보정 레이어를 통해 깊이로 매핑하여 형태 우선 솔루션을 제거한다. PhiCalNet은 객체 평균 절대 오차(MAE)를 3.3배 줄여 4.46mm로 개선하며, 잔여 오차는 $ ext{0.103 ext{%}}$의 픽셀에 국한된다. 세 프레임 확장을 통해 1.16mm까지 도달할 수 있다.
PhiCalNet은 객체 MAE를 4.46mm로 줄여 깊이 회복의 정확성을 높인다.
G-SHARE: 인적 요인 사건 진단을 위한 가이드라인 기반 구조적 추론 프레임워크
G-SHARE는 원자력 발전소의 인적 요인 사건 진단을 위한 가이드라인 기반 구조적 추론 프레임워크로, CNNP의 아홉 단계 진단 가이드를 다단계 진단 파이프라인으로 구현한다. 이 프레임워크는 증거 추출, 단계별 진단 추론, 사후 일관성 수정을 포함하여 보고서 증거의 명시적 사용과 논리적 검증을 가능하게 한다. 중국 원자력 산업 소스에서 실제 인적 요인 사건 보고서 데이터셋이 구축되었으며, 도메인 전문가에 의해 주석이 달린 금표준 하위 집합이 평가에 사용되었다. G-SHARE는 기존의 일회성 프롬프트 및 전통적인 머신러닝 기준을 크게 능가하며, 가장 강력한 버전이 최고의 정확도와 매크로-F1 점수를 기록하였다. 구조적 추론과 일관성 강제는 약한 프롬프트 조건에서 강력한 진단을 위해 중요하다는 결과도 나타났다.
G-SHARE는 인적 요인 사건 진단을 위한 구조적 추론을 통해 안전-critical 산업에서의 지능형 분석을 위한 실용적인 경로를 제공한다.
UAE, AI 기반 정부 앱 TAMM 도입 및 AI 전략 발표
아부다비에서 AI는 일상 생활의 일부로 자리잡고 있으며, 'TAMM'이라는 앱이 국가 ID, 건강 보험, 차량 등록 갱신 등을 자동으로 처리한다. UAE는 2017년에 세계 최초의 AI 장관을 임명하고, 2019년에는 세계 최초의 AI 전공 대학인 모하메드 빈 자이드 인공지능 대학(MBZUAI)을 설립했다. UAE의 국가 AI 전략은 2031년까지 AI 중심의 명성을 구축하고, 2030년까지 AI가 GDP의 11%를 기여할 것으로 예상하고 있다.
2026년 AI 엔지니어링의 주요 트렌드
2023년 6월 swyx가 'AI 엔지니어'라는 용어를 만든 이후 AI 엔지니어링은 크게 발전했다. 2026년 AI 엔지니어 월드 페어에서는 AI 시스템 주변의 엔지니어링이 중요해졌으며, 자동화된 에이전트보다 시스템 설계가 강조되었다. 특히, OpenAI의 Codex와 같은 도구를 활용하여 AI 엔지니어와 에이전트 간의 협업이 용이해졌고, '루프' 개념이 AI 엔지니어링의 새로운 제어 계층으로 부각되었다.
AI 엔지니어링은 이제 단순한 모델 프롬프트를 넘어서, 신뢰할 수 있는 시스템을 구축하는 방향으로 발전하고 있다.
Codex Desktop에서 사용자 맞춤형 애니메이션 로봇 생성
Codex Desktop에서 사용자는 GPT-5.6 Sol을 이용해 자신만의 애니메이션 로봇인 'Pedalican'을 만들 수 있다. 이 로봇은 자전거를 타고 움직이며 Codex 작업에 대한 업데이트를 제공한다. 사용자는 gpt-image-2를 통해 필요한 스프라이트 자산을 생성하고, GitHub 리포지토리에는 생성된 이미지와 애니메이션 GIF가 포함되어 있다.
GPT-5.6 Sol을 활용하여 사용자 맞춤형 애니메이션 캐릭터를 생성하는 과정은 게임-ready 스프라이트 제작에 유용한 방법을 제시한다.
OpenAI, ChatGPT 스마트 스피커 출시 예정
OpenAI의 첫 번째 기기는 ChatGPT와 대화할 수 있는 스마트 스피커로, 화면은 없지만 카메라와 추가 센서를 사용해 주변 환경을 이해할 수 있는 기능을 갖춘다. 이 기기는 재충전 가능한 배터리를 탑재해 휴대가 가능하며, 스마트 홈 제어 기능도 제공할 예정이다. 이 보도는 Apple이 OpenAI를 상대로 하드웨어 비밀을 훔쳤다고 주장하는 소송을 제기한 직후에 나왔다.
OpenAI의 스마트 스피커는 ChatGPT와의 상호작용을 통해 사용자 경험을 향상시킬 수 있다.
Breadcromb: 모든 것을 기억하고 행동하는 브라우저
Breadcromb는 모든 정보를 기억하고, 사용자가 원하는 행동을 수행할 수 있는 브라우저이다.
ChikitAI: 의료 분류 및 관리 자동화를 위한 에이전틱 AI
ChikitAI는 의료 분야에서 분류 및 관리 자동화를 위한 에이전틱 AI 솔루션이다. 이 제품은 의료 서비스의 효율성을 높이고, 환자 관리 과정을 개선하는 데 중점을 두고 있다.
ChikitAI는 의료 분야에서의 AI 활용을 통해 환자 관리의 효율성을 향상시킬 수 있다.
메타, AI 도구로 8,000명 해고 결정
메타가 8,000명의 직원을 해고하는 과정에서 AI 도구를 사용했다는 주장이 제기됐다. 캘리포니아 북부 지방법원에 제출된 소송에 따르면, 메타는 'Metamate'라는 시스템과 직원 훈련을 받은 '두 번째 두뇌' 에이전트, 키 입력 및 활동 모니터링 데이터 등을 활용해 해고 대상을 선정했다. 직원들은 메타의 AI 도구 사용량에 따라 평가받았으며, 내부 대시보드는 직원들을 'AI Native', 'AI First', 'AI Enabled' 등의 카테고리로 분류했다.
메타는 내부 AI 시스템을 통해 직원의 해고를 결정했으며, 이는 AI 도구 사용량이 평가 기준이 됐다는 점에서 인사 관리에 AI가 미치는 영향을 보여준다.
Strands Agents와 Amazon Bedrock을 활용한 다중 에이전트 사회적 지능 시스템
Thrad.ai는 Strands Agents와 Amazon Bedrock AgentCore를 사용하여 다중 에이전트 시스템을 배포하고, 이를 통해 잠재 고객 발견부터 개인화된 이메일 생성까지의 파이프라인을 자동화하였다. 이 시스템은 다양한 출처에서 수집된 신호를 분석하여 구매 준비가 된 고객을 식별하는 데 도움을 준다. 또한, Swarm과 Graph 두 가지 오케스트레이션 패턴을 비교하고, 고객 점수를 매기는 방법과 생산 배포를 위한 거버넌스 제어를 설명한다.
Strands Agents와 Amazon Bedrock AgentCore를 통해 다중 에이전트 시스템을 활용하면 고객 발굴과 이메일 생성 과정을 자동화할 수 있다.
NVIDIA Nemotron 모델 추론 챌린지와 5,000명 이상의 Kaggle 참가자
NVIDIA Nemotron 모델 추론 챌린지는 Kaggle 커뮤니티에 동일한 공개 모델, 벤치마크, 인프라 및 평가 제약 조건에서 추론 정확도를 개선할 수 있는 기술을 탐구하도록 초대했다. 이 대회에는 4,000개 팀의 5,000명 이상의 참가자가 참여하여 수천 개의 결과를 생성했다.
NVIDIA Nemotron 모델 추론 챌린지는 AI 추론 정확도를 개선하기 위한 다양한 기술을 탐구하는 기회를 제공한다.
소프트웨어 프로젝트의 공유 언어와 이해의 중요성
소프트웨어 프로젝트에서 공유되는 언어는 영어 또는 파이썬이 아니라 개념의 의미, 경계, 중요 불변량, 소유권, 시스템 구조의 이유에 대한 공통 이해이다. 이러한 이해는 문서와 코드, 코드 리뷰, 대화, 논쟁, 변경 사항을 설명하는 경험 속에 존재한다. 에이전트 이전에는 이러한 공유 이해가 마찰을 통해 유지되었으며, 이는 느린 과정이었지만 서로의 이해를 동기화하는 역할을 했다.
2026년 Twitter 사용법 및 알고리즘 변화
2026년 Twitter 사용법에 대한 업데이트가 포함되어 있으며, 'For You' 피드가 다시 주목받고 있다. 사용자는 이제 세 가지 피드 중 하나를 선택할 수 있으며, 시간순 피드를 사용하려면 수동으로 클릭해야 한다. 사용자는 리스트를 통해 피드를 방어하고, 차단 기능을 적극적으로 활용해야 하며, 새로운 팔로워의 트윗을 보기 위해서는 'All' 리스트에 추가해야 한다. AI 관련 콘텐츠는 흥미롭지 않으면 차단하는 것이 좋다.
Twitter의 알고리즘 변화에 따라 사용자는 리스트를 통해 피드를 관리하고, 'All' 리스트를 통해 중요한 정보를 놓치지 않아야 한다.
Rippling의 AI Spend Console
Rippling의 AI Spend Console은 기업의 AI 지출을 추적하고 이를 비즈니스 성과와 연결하는 기능을 제공한다.
AI Spend Console을 통해 기업은 AI 지출이 비즈니스 성과에 미치는 영향을 분석할 수 있다.
루프 엔지니어링의 개념과 활용
‘루프 엔지니어링’은 Anthropic과 OpenAI의 개발자들이 프롬프트 작성을 중단하고 루프 설계로 전환하면서 주목받고 있다. Anthropic의 Boris Cherny는 Claude를 프롬프트하는 대신 루프를 작성한다고 밝혔다. 루프는 이벤트에 반응하거나 예약된 작업을 실행하는 데 사용되며, OpenAI의 API 가격이 비쌀 경우 비용이 빠르게 증가할 수 있다. Geoffrey Huntley는 'Ralph Wiggum' 루프라는 개념을 제안하며, 이를 통해 작업을 지속적으로 유도할 수 있다고 설명했다. 이 방법은 엔지니어의 전문성이 여전히 필요하다고 강조한다.
루프 엔지니어링은 개발자들이 이벤트에 반응하거나 예약된 작업을 자동으로 실행하는 데 유용한 방법이다.