AI 뉴스

Davidad, AI 정렬과 도덕적 현실주의에 대한 논의

David Dalrymple은 ARIA Safeguarded AI에서 'Alignment with Awakening'으로 방향을 전환한 이유를 설명하며, 안전한 AI 사용에 대한 글로벌 조정이 더 이상 실현 가능하지 않다고 주장한다. 그는 정렬된 AI 시스템이 공유된 선의 개념을 인식하고 방어적 연합을 형성할 수 있는지에 대한 질문을 제기하며, 그의 p(doom)를 5% 이하로 수정했다고 언급한다. AI 정렬이 단순한 억제에 그치지 않고, 더 지혜로운 시스템을 육성하는 데 초점을 맞춰야 한다고 강조한다.

p(doom)가 5% 이하로 수정된 것은 AI 시스템의 안전성과 관련된 중요한 지표이다.

OpenAI의 GPT-5.6, Grok 4.5, Muse Spark 1.1 출시 및 AI 모델 경쟁

OpenAI는 GPT-5.6을 출시하며 모델을 Sol, Terra, Luna로 분리하고, 프로그램 도구 호출 기능을 추가했다. GPT-Live는 전이중 아키텍처를 통해 인간-기계 협업을 개선하고, ChatGPT Work는 여러 앱과 파일에서 작업을 수행하며 편집 가능한 문서를 생성할 수 있다. Meta의 Muse Spark 1.1은 백만 토큰 컨텍스트 윈도우와 멀티모달 인식을 결합하고, Grok 4.5는 코딩 및 지식 작업을 위한 애플리케이션 생성을 지원한다. 이들 모델은 저렴한 가격으로 신뢰할 수 있는 작업 단위를 제공하기 위한 경쟁을 벌이고 있다.

OpenAI의 GPT-5.6은 프로그램 도구 호출 기능을 통해 모델이 도구를 조정하고 중간 결과를 처리할 수 있게 한다.

25%의 긴 형식 소셜 미디어 게시물은 AI 생성으로 나타남

2026년 7월 9일 발표된 보고서에 따르면, 긴 형식의 소셜 미디어 게시물 중 25%가 AI에 의해 생성된 것으로 나타났다. 특히 LinkedIn과 같은 플랫폼에서 이러한 경향이 두드러진다.

AI 생성 콘텐츠의 비율이 증가하고 있다는 점은 기업들이 소셜 미디어 전략을 재조정할 필요성을 시사한다.

Databricks AI Agent Genie 코드, 이제는 사용량에 따라 요금 부과

Databricks의 AI Agent Genie 코드가 더 이상 무료가 아니며, 사용자는 이제 사용량에 따라 요금을 지불해야 한다.

Databricks AI Agent Genie를 사용하는 개발자는 이제 비용을 고려하여 서비스 사용을 계획해야 한다.

Voodoo Quant, Qwen3.5 0.8B 및 2B 모델에서 Unsloth Dynamic 2.0 KLD를 95% 초과

Voodoo Quant는 Qwen3.5 모델에서 Unsloth Dynamic보다 95% 향상된 KLD 성능을 보여주며, 모든 텐서를 최적화하는 새로운 방법론을 사용한다. Voodoo는 Llama.cpp와 Torch에서 모두 좋은 성능을 보이며, 특히 '2 bit' 설정에서 최적의 결과를 나타낸다. 향후 Qwen3.6 27B 및 deepseek v4 flash 모델에 대한 연구 결과도 기대된다.

Voodoo Quant는 Qwen3.5 모델에서 Unsloth Dynamic보다 95% 향상된 KLD 성능을 보여주며, 이는 모델 최적화에 있어 새로운 접근 방식을 제시한다.

llama.cpp의 P100 GPU 성능 개선을 위한 패치 배포

turboquant v0.3.0이 배포되었으며, CUDA 코드의 패치로 P100 GPU가 fp16 연산을 수행할 수 있게 되었다. 이 패치는 3줄로 구성되어 있으며, 성능 측정 결과 P100에서의 디코드 속도가 약 1.4% 빨라졌다. P100은 현재 약 80달러에 판매되고 있으며, 16GB HBM2 메모리를 갖추고 있다.

P100 GPU의 성능 개선으로 인해 저렴한 가격에 높은 성능을 활용할 수 있는 기회가 생겼다.

GGUF 모델을 위한 Interactive Jacobian-Lens 시각화 도구 및 실시간 조정기

GGUF 및 llama.cpp를 위한 Interactive Jacobian-Lens 시각화 도구가 개발되었다. 이 도구는 모델 관찰과 j-space 스와핑, 조정 기능을 제공하며, llama-server 모델을 관찰할 수 있지만 조정은 불가능하다. 메모리 요구 사항은 모델 크기에 따라 약 1/8 비율로 증가하며, 예를 들어 160GB 크기의 모델은 추가로 20GB의 RAM이 필요하다.

160GB 크기의 모델을 사용할 경우 추가로 20GB의 RAM이 필요하다는 점은 시스템 요구 사항을 계획하는 데 중요하다.

로봇 공학 기초 모델의 평가 방법론 소개

로봇 공학 기초 모델은 자연어 지시를 따라 다양한 물체를 집고, 놓고, 정렬하고 조작할 수 있는 능력을 갖추게 되었다. 그러나 이러한 모델의 능력이 향상됨에 따라, 이를 엄격하게 평가하는 것이 가장 어려운 문제 중 하나로 남아 있다. 이 블로그 포스트에서는 이러한 주요 문제와 이를 해결하기 위한 방법론을 소개한다.

로봇 공학 기초 모델은 자연어 지시를 이해하고 다양한 작업을 수행할 수 있는 기능을 갖추고 있다.

Grok 4.5와 GPT-5.6의 출시 및 정부 검토

Grok 4.5는 SpaceXAI가 7월 8일 공개한 모델로, 코딩, 데이터 분석, 문서 작업 등 지식 노동을 지원한다. Grok 4.5는 커서와 함께 훈련되었으며, 100만 토큰 기준 입력 $2, 출력 $6로 저렴한 비용을 자랑한다. 오픈AI의 GPT-5.6은 미국 정부의 승인 후에만 사용 가능하다.

Grok 4.5는 100만 토큰 기준 입력 $2, 출력 $6로, 비용 효율적인 AI 모델을 찾는 개발자에게 유용하다.

톡시그널 웹 서비스의 유료 전환 과정과 도전

톡시그널(Toksignal)은 카카오톡 대화를 AI로 분석하는 웹 서비스로, 아이디어부터 웹 제작까지 3일이 걸렸다. 그러나 유료 서비스로 전환하기 위해 결제 시스템 구축, 사업자등록증, 개인정보 처리방침 등 복잡한 절차를 거쳐야 했다. 이 과정에서 보안과 사용자 신뢰를 확보하는 것이 가장 큰 도전이었다.

톡시그널은 990원의 유료 서비스를 제공하기 위해 결제 시스템을 구축하고 법적 요건을 충족해야 했다.

페이블 5 출시 후 서비스 재개 및 앤트로픽의 활용 가이드

페이블 5는 6월 9일 출시되었고, 6월 12일 미국 상무부의 지시로 서비스가 차단되었으나 6월 30일 규제가 풀리면서 7월 1일 유료 플랜 서비스가 재개되었다. 기존 유료 구독자는 주간 사용량 제한의 최대 50%까지 페이블 5를 이용할 수 있으며, 앤트로픽은 구독 기간을 7월 12일까지 연장했다. 타리크 시히파는 AI Engineer World Fair에서 발표한 'Field Guide to Fable'에서 프롬프트 작성 방식의 변화와 페이블 사용 시 유용한 기법을 소개했다.

페이블 5의 유료 플랜 서비스 재개는 개발자들이 새로운 기능을 활용할 수 있는 기회를 제공한다.

Plan A 소개 및 반응

AI 2027을 만든 팀이 새로운 비전인 Plan A를 발표했다. 이들은 AI 예측에서 강력한 실적을 보였으며, Daniel Kokotajlo와 Ryan Greenblatt가 포함되어 있다. Plan A는 AI 개발을 늦추고 중국과 협력하는 등의 내용을 담고 있으며, AI의 초지능이 2040년까지 도래할 것이라는 예측이 포함되어 있다. 그러나 Plan A에 대한 반대 의견도 존재하며, 초지능의 위협이 현실적이지 않다는 주장도 제기되고 있다.

Plan A는 AI 개발의 속도를 늦추고 중국과의 협력을 제안하며, 초지능의 출현 시점을 2040년으로 예측하고 있다.

Context Graph를 통한 능동적 기업 에이전트 개발

이 논문은 능동적 에이전트의 필요성을 주장하며, Context Graph라는 실시간 관계형 데이터 구조를 제안한다. 이 구조는 기업 엔티티, 그 관계 및 상태 변화를 모델링한다. Delta Detection Engine은 상태 변화를 지속적으로 모니터링하고, Proactivity Scorer는 긴급성, 관련성, 페르소나 적합성에 따라 후보 통찰력을 평가한다. LLM 기반의 Surfacing Layer는 정렬된 알림을 제공한다. 평가 결과, Context Graph 기반의 능동성이 Precision@5 0.83, 허위 긍정률 0.11을 달성하며, 반응적 기준선의 평균 정보 탐색 시간을 47분에서 30초 미만으로 단축시킨다.

Context Graph를 통해 기업의 정보 탐색 시간을 47분에서 30초 미만으로 단축할 수 있다.

프라이버시와 지능형 로봇 의수의 통합: 아이디오바이오닉스

인간의 신체와 디지털 시스템을 밀접하게 결합한 기술들이 증가하고 있으며, 로봇 의수가 그 대표적인 예이다. 로봇 의수는 고급 센서와 인공지능 기반 제어 방식을 통합하여 지각적이고 반응적인 기능을 갖추고 있다. 그러나 이러한 기술 발전은 사용자 프라이버시를 침해할 수 있는 위협 요소도 동반한다. 본 논문에서는 프라이버시와 지능형 로봇 의수의 교차점에서 발생하는 문제를 조사하기 위한 새로운 연구 분야인 아이디오바이오닉스를 소개하고, 관련 문헌을 바탕으로 정의하며, 지능형 로봇 의수 설계를 악용할 수 있는 잠재적 공격에 대한 초기 증거를 제시한다.

정신 건강 지원을 위한 대규모 언어 모델의 안전성 확보 기준 제안

대규모 언어 모델(LLM)은 정신 건강 지원에 중요한 역할을 하고 있으나, 상업적 목표가 지속적인 참여를 선호하여 효과적인 심리적 지원에 필요한 마찰을 간과하고 있다. 개발자의 안전 대응은 주로 가시적이고 급성의 피해를 다루는 데 집중되어 있으며, 의존성, 경계 침식, 왜곡된 신념의 증폭과 같은 장기적인 위험 패턴은 덜 주목받고 있다. LLM을 구조적으로 안전하게 만들기 위해서는 임상 실습의 안전성을 보장하는 사회적 방식과 유사한 세 가지 수준의 정렬이 필요하다: 1) 임상 실습의 규범적 약속에 기반한 명시적 가치 명세, 2) 모델에 이러한 가치를 내재화하는 훈련, 3) 배포 중 드리프트 및 장기적 피해를 감지하는 감독. 이러한 정렬을 통해 '정렬 가능성(alignment plausibility)'이라는 개념을 제안하며, 이는 AI의 긍정적 건강 결과와 안전성을 주장할 수 있는 원칙적인 방법이다.

정렬 가능성은 AI 시스템이 긍정적 건강 결과에 맞춰 안전하게 운영될 수 있도록 하는 규제적 개념이다.

Apple, OpenAI에 비밀정보 유출 혐의 소송 제기

Apple은 OpenAI와 일부 직원들을 상대로 비밀 정보를 OpenAI로 가져오도록 유도했다고 주장하며 소송을 제기했다. Apple의 주장에 따르면, 전 직원 Chang Liu가 Apple의 공유 네트워크 폴더에 접근하기 위해 인증 버그를 악용했다고 한다. OpenAI는 Apple의 비밀 정보에 관심이 없다고 밝혔다. OpenAI는 Apple의 전 산업 디자인 책임자 Jony Ive를 고용해 새로운 하드웨어 제품을 개발 중이다.

Apple의 소송이 진행되는 동안 AI 기술이 소비자 기술에 미치는 영향이 커질 것으로 예상된다.

Meta, 인스타그램의 논란이 된 AI 기능 제거

Meta는 블로그 게시물을 통해 인스타그램의 AI 기능이 사용자에게 유용한 창작 도구를 제공하고 공공 콘텐츠에 대한 제어를 주기 위한 의도였다고 밝혔다. 그러나 이 기능이 기대에 미치지 못했다는 피드백을 듣고 더 이상 제공하지 않기로 결정했다.

Apple, OpenAI를 상대로 하드웨어 비밀 절도 혐의로 소송

Apple이 OpenAI를 상대로 하드웨어 계획을 진전시키기 위해 Apple의 비밀을 훔쳤다고 주장하며 소송을 제기했다. Apple은 OpenAI 직원들이 Apple에서 근무하던 시절부터 비밀을 훔친 패턴을 발견했다고 밝혔다. 이번 소송에는 OpenAI가 2025년에 인수한 Jony Ive의 하드웨어 스타트업 IO Products와 OpenAI의 최고 하드웨어 책임자인 Tang Tan, Apple에서 1월에 OpenAI로 이직한 Chang Liu도 포함되어 있다.

OpenAI의 하드웨어 계획에 대한 Apple의 비밀이 도용되었다는 주장은 AI 하드웨어 개발에 중요한 영향을 미칠 수 있다.

매튜 버먼, GPT-5.6 리뷰에서 소수점 업그레이드 아닌 이유 언급

유튜버 매튜 버먼이 GPT-5.6을 리뷰하며 '이건 그냥 소수점 업그레이드로 낼 만한 게 아니다'라고 언급했다. GPT-5.6은 자율 작업 시간과 성능 측정 방식이 변화하고 있으며, 2시간 자율 작업, 일주일 자율 실행, 20만 달러의 토큰 사용 등의 사례가 있다. OpenAI는 디자인 감각을 강조하며 웹사이트, 모션 그래픽, 3D 시뮬레이션을 포함한 다양한 기능을 제공하고 있다.

GPT-5.6의 자율 작업 성능이 향상됨에 따라, AI 모델의 성능 평가 기준이 변화하고 있다.

Tencent HY3 모델, 128GB에서 성능 테스트

Tencent의 HY3 모델(295B-A21B MoE)은 DeepSeek v4 Flash와 비슷한 크기에서 더 나은 성능을 보이며, 128GB Macbook M5 Max에서 테스트된 결과, 토큰 생성 속도가 DeepSeek보다 두 배 빠르고 품질도 동등하거나 더 나은 것으로 나타났다. 모델 실행을 위해 llama.cpp의 PR #25395를 사용하여 지원을 추가하고, GPU 메모리 한계를 122GB로 설정해야 했다. 성능 테스트 결과, 빈 컨텍스트에서 528 tokens/sec, 16K 컨텍스트에서 124 tokens/sec의 속도를 기록했다.

HY3 모델은 128GB 환경에서 DeepSeek보다 두 배 빠른 토큰 생성 속도를 제공하여 ML 연구에 유용할 수 있다.

Claude의 모든 앱과 LLM 간 공유 메모리 기능

Claude에서 모든 앱과 LLM 간에 공유 메모리 기능이 제공된다.

Hugging Face CEO가 전하는 오픈소스 AI의 성장

Hugging Face의 CEO Clem Delangue에 따르면 오픈소스 AI가 급성장하고 있으며, 이 회사는 최근 몇 년 동안 AI 제작자들이 오픈 모델과 데이터셋을 공유하고 다운로드할 수 있는 GitHub과 유사한 플랫폼으로 발전했다. 현재 Fortune 500 기업의 약 절반이 이 플랫폼을 사용하고 있다.

Hugging Face는 AI 모델과 데이터셋의 공유를 통해 기업들이 오픈소스 AI를 활용할 수 있는 기회를 제공한다.

1800년대 텍스트로 LLM 훈련, 160GB 데이터셋 사용

한 사용자가 1800년대 런던 데이터를 기반으로 언어 모델을 사전 훈련하기 시작했으며, 최근 40B 토큰, 160GB의 1800-1875년 영어 데이터를 포함하는 최대 데이터셋을 완성했다. 현재 2B 파라미터 모델을 훈련할 예정이며, 500M 파라미터의 평가 모델을 5B 토큰 샘플로 훈련하였다. 이 모델은 1800년대의 Q&A 쌍으로 미세 조정되어 역사적 인물, 장소, 사건에 대한 질문에 답할 수 있다.

JAX 기반 LLM 훈련에서 HBM 병목 현상 감소

대형 언어 모델(LLM) 훈련 작업은 GPU 메모리 한계에 도달하기 전에 계산 자원을 충분히 활용하지 못하는 경우가 많다. 모델 가중치, 그래디언트, 옵티마이저 상태, 통신 버퍼 및 중간 활성화가 모두 GPU의 고대역폭 메모리(HBM)를 경쟁하게 된다. 모델 크기, 시퀀스 길이 및 배치 크기가 증가함에 따라 HBM 용량이 주요 스케일링 병목 현상이 된다.

HBM 용량이 LLM 훈련의 성능에 직접적인 영향을 미친다.