AI 뉴스
Context Graph를 통한 능동적 기업 에이전트 개발
이 논문은 능동적 에이전트의 필요성을 주장하며, Context Graph라는 실시간 관계형 데이터 구조를 제안한다. 이 구조는 기업 엔티티, 그 관계 및 상태 변화를 모델링한다. Delta Detection Engine은 상태 변화를 지속적으로 모니터링하고, Proactivity Scorer는 긴급성, 관련성, 페르소나 적합성에 따라 후보 통찰력을 평가한다. LLM 기반의 Surfacing Layer는 정렬된 알림을 제공한다. 평가 결과, Context Graph 기반의 능동성이 Precision@5 0.83, 허위 긍정률 0.11을 달성하며, 반응적 기준선의 평균 정보 탐색 시간을 47분에서 30초 미만으로 단축시킨다.
Context Graph를 통해 기업의 정보 탐색 시간을 47분에서 30초 미만으로 단축할 수 있다.
정신 건강 지원을 위한 대규모 언어 모델의 안전성 확보 기준 제안
대규모 언어 모델(LLM)은 정신 건강 지원에 중요한 역할을 하고 있으나, 상업적 목표가 지속적인 참여를 선호하여 효과적인 심리적 지원에 필요한 마찰을 간과하고 있다. 개발자의 안전 대응은 주로 가시적이고 급성의 피해를 다루는 데 집중되어 있으며, 의존성, 경계 침식, 왜곡된 신념의 증폭과 같은 장기적인 위험 패턴은 덜 주목받고 있다. LLM을 구조적으로 안전하게 만들기 위해서는 임상 실습의 안전성을 보장하는 사회적 방식과 유사한 세 가지 수준의 정렬이 필요하다: 1) 임상 실습의 규범적 약속에 기반한 명시적 가치 명세, 2) 모델에 이러한 가치를 내재화하는 훈련, 3) 배포 중 드리프트 및 장기적 피해를 감지하는 감독. 이러한 정렬을 통해 '정렬 가능성(alignment plausibility)'이라는 개념을 제안하며, 이는 AI의 긍정적 건강 결과와 안전성을 주장할 수 있는 원칙적인 방법이다.
정렬 가능성은 AI 시스템이 긍정적 건강 결과에 맞춰 안전하게 운영될 수 있도록 하는 규제적 개념이다.
Apple, OpenAI에 비밀정보 유출 혐의 소송 제기
Apple은 OpenAI와 일부 직원들을 상대로 비밀 정보를 OpenAI로 가져오도록 유도했다고 주장하며 소송을 제기했다. Apple의 주장에 따르면, 전 직원 Chang Liu가 Apple의 공유 네트워크 폴더에 접근하기 위해 인증 버그를 악용했다고 한다. OpenAI는 Apple의 비밀 정보에 관심이 없다고 밝혔다. OpenAI는 Apple의 전 산업 디자인 책임자 Jony Ive를 고용해 새로운 하드웨어 제품을 개발 중이다.
Apple의 소송이 진행되는 동안 AI 기술이 소비자 기술에 미치는 영향이 커질 것으로 예상된다.
Meta, 인스타그램의 논란이 된 AI 기능 제거
Meta는 블로그 게시물을 통해 인스타그램의 AI 기능이 사용자에게 유용한 창작 도구를 제공하고 공공 콘텐츠에 대한 제어를 주기 위한 의도였다고 밝혔다. 그러나 이 기능이 기대에 미치지 못했다는 피드백을 듣고 더 이상 제공하지 않기로 결정했다.
Apple, OpenAI를 상대로 하드웨어 비밀 절도 혐의로 소송
Apple이 OpenAI를 상대로 하드웨어 계획을 진전시키기 위해 Apple의 비밀을 훔쳤다고 주장하며 소송을 제기했다. Apple은 OpenAI 직원들이 Apple에서 근무하던 시절부터 비밀을 훔친 패턴을 발견했다고 밝혔다. 이번 소송에는 OpenAI가 2025년에 인수한 Jony Ive의 하드웨어 스타트업 IO Products와 OpenAI의 최고 하드웨어 책임자인 Tang Tan, Apple에서 1월에 OpenAI로 이직한 Chang Liu도 포함되어 있다.
OpenAI의 하드웨어 계획에 대한 Apple의 비밀이 도용되었다는 주장은 AI 하드웨어 개발에 중요한 영향을 미칠 수 있다.
매튜 버먼, GPT-5.6 리뷰에서 소수점 업그레이드 아닌 이유 언급
유튜버 매튜 버먼이 GPT-5.6을 리뷰하며 '이건 그냥 소수점 업그레이드로 낼 만한 게 아니다'라고 언급했다. GPT-5.6은 자율 작업 시간과 성능 측정 방식이 변화하고 있으며, 2시간 자율 작업, 일주일 자율 실행, 20만 달러의 토큰 사용 등의 사례가 있다. OpenAI는 디자인 감각을 강조하며 웹사이트, 모션 그래픽, 3D 시뮬레이션을 포함한 다양한 기능을 제공하고 있다.
GPT-5.6의 자율 작업 성능이 향상됨에 따라, AI 모델의 성능 평가 기준이 변화하고 있다.
Tencent HY3 모델, 128GB에서 성능 테스트
Tencent의 HY3 모델(295B-A21B MoE)은 DeepSeek v4 Flash와 비슷한 크기에서 더 나은 성능을 보이며, 128GB Macbook M5 Max에서 테스트된 결과, 토큰 생성 속도가 DeepSeek보다 두 배 빠르고 품질도 동등하거나 더 나은 것으로 나타났다. 모델 실행을 위해 llama.cpp의 PR #25395를 사용하여 지원을 추가하고, GPU 메모리 한계를 122GB로 설정해야 했다. 성능 테스트 결과, 빈 컨텍스트에서 528 tokens/sec, 16K 컨텍스트에서 124 tokens/sec의 속도를 기록했다.
HY3 모델은 128GB 환경에서 DeepSeek보다 두 배 빠른 토큰 생성 속도를 제공하여 ML 연구에 유용할 수 있다.
Claude의 모든 앱과 LLM 간 공유 메모리 기능
Claude에서 모든 앱과 LLM 간에 공유 메모리 기능이 제공된다.
Hugging Face CEO가 전하는 오픈소스 AI의 성장
Hugging Face의 CEO Clem Delangue에 따르면 오픈소스 AI가 급성장하고 있으며, 이 회사는 최근 몇 년 동안 AI 제작자들이 오픈 모델과 데이터셋을 공유하고 다운로드할 수 있는 GitHub과 유사한 플랫폼으로 발전했다. 현재 Fortune 500 기업의 약 절반이 이 플랫폼을 사용하고 있다.
Hugging Face는 AI 모델과 데이터셋의 공유를 통해 기업들이 오픈소스 AI를 활용할 수 있는 기회를 제공한다.
1800년대 텍스트로 LLM 훈련, 160GB 데이터셋 사용
한 사용자가 1800년대 런던 데이터를 기반으로 언어 모델을 사전 훈련하기 시작했으며, 최근 40B 토큰, 160GB의 1800-1875년 영어 데이터를 포함하는 최대 데이터셋을 완성했다. 현재 2B 파라미터 모델을 훈련할 예정이며, 500M 파라미터의 평가 모델을 5B 토큰 샘플로 훈련하였다. 이 모델은 1800년대의 Q&A 쌍으로 미세 조정되어 역사적 인물, 장소, 사건에 대한 질문에 답할 수 있다.
JAX 기반 LLM 훈련에서 HBM 병목 현상 감소
대형 언어 모델(LLM) 훈련 작업은 GPU 메모리 한계에 도달하기 전에 계산 자원을 충분히 활용하지 못하는 경우가 많다. 모델 가중치, 그래디언트, 옵티마이저 상태, 통신 버퍼 및 중간 활성화가 모두 GPU의 고대역폭 메모리(HBM)를 경쟁하게 된다. 모델 크기, 시퀀스 길이 및 배치 크기가 증가함에 따라 HBM 용량이 주요 스케일링 병목 현상이 된다.
HBM 용량이 LLM 훈련의 성능에 직접적인 영향을 미친다.
AI 2040: Plan A, 미국과 중국의 AI 연구 일시 중단 제안
AI Futures Project는 AI 발전이 계속될 경우 인류가 위협받을 것이라는 예측을 내놓았다. 이들은 미국과 중국이 최전선 AI 연구를 일시 중단하고 안전한 개발을 위한 기반을 구축할 것을 제안하고 있다. 이 계획은 AI의 경제적 이점을 누리기 위해 위험을 피해야 한다고 주장하며, 현재의 AI 능력만으로도 수년간의 혁신과 경제 성장을 촉진할 수 있다고 강조한다. 하지만 이 계획은 세계 지도자들이 정치적 이해관계를 초월해 협력해야 한다는 비현실적인 전제를 담고 있다.
AI Futures Project의 'Plan A'는 AI 연구의 일시 중단을 제안하며, 이는 안전한 AI 개발을 위한 기반 구축을 목표로 한다.
증강 현실 안경 제작 시 개인 정보 침해 문제
증강 현실 안경을 만들기 위해서는 사용자의 시각을 지속적으로 기록하고 정보를 덧씌우는 카메라가 필요하다. 현재로서는 실시간 처리를 위해 강력하면서도 전력 소모가 적은 칩이 안경의 줄기 부분에 들어갈 수 없으며, 데이터는 클라우드로 전송해야 한다. 이러한 기술적 요구는 개인의 프라이버시 침해를 초래할 수 있으며, 사회적 차원에서 이러한 제품 개발을 중단해야 한다는 주장이 제기되고 있다.
증강 현실 안경은 개인의 프라이버시를 침해할 수 있는 기술적 요구를 동반한다.
NVIDIA CUDA에서 커널 융합을 통한 메모리 트래픽 최적화
GPU 코드를 최적화하는 방법 중 하나로 커널 융합이 소개되었다. 커널 융합은 메모리 대역폭을 개선하고 커널 실행 오버헤드를 줄이는 데 도움을 준다. 이 글에서는 NVIDIA CUDA 코드에서 커널 융합을 적용하는 여러 방법을 설명한다.
커널 융합은 GPU 메모리의 효율성을 높여 GPU 성능을 극대화하는 데 기여한다.
AI 성능의 세 가지 차원: 정확도, 처리량, 상호작용
AI 성능은 정확도, 처리량, 상호작용의 세 가지 차원으로 구성된다. 높은 정확도는 응답 속도가 느리면 의미가 없고, 처리량이 높더라도 사용자 경험이 지연되면 효과가 없다. 따라서 실제 시스템은 이 세 가지 요소를 함께 최적화해야 한다. 이 글은 처리량과 상호작용에 중점을 두고 모델 설계 선택이 두 요소에 어떻게 영향을 미치는지를 다룬다.
모델 설계 선택이 처리량과 상호작용에 미치는 영향을 이해하는 것은 AI 시스템의 성능 최적화에 중요하다.
Adam Brown의 일반 상대성이론 소개
Adam Brown이 일반 상대성이론의 핵심 아이디어를 설명하며, 아인슈타인이 발견한 '가장 행복한 생각'에 대해 이야기한다. 이론의 중심에는 질량이 가속을 저항하는 것과 중력이 끌어당기는 질량이 동일하다는 원리가 있다. 또한, 블랙홀에 대한 강의도 진행되며, 블랙홀의 관찰자와 멀리 있는 방관자의 경험이 어떻게 다를지를 설명한다. 마지막으로 Google DeepMind의 Blueshift 팀과 AI가 일반 상대성이론을 재발견할 가능성에 대해 논의한다.
AI가 일반 상대성이론을 재발견할 가능성에 대한 논의는 AI 연구와 물리학의 융합을 보여준다.
Copilot 코드 리뷰 도구 개선 사례
Copilot 코드 리뷰는 이전에 자체 개발한 코드 탐색 도구를 사용했으나, 공유 도구인 Copilot CLI의 grep, glob, view로 교체했을 때 리뷰 비용이 증가하고 유용한 코멘트 수가 감소했다. 이후 리뷰어가 실제로 PR을 읽는 방식에 맞춰 지침을 수정하자 평균 리뷰 비용이 약 20% 감소하면서도 리뷰 품질은 유지되었다. 이러한 경험은 도구와 워크플로우 간의 조정이 중요함을 보여준다.
Copilot 코드 리뷰에서 도구 교체 후 평균 리뷰 비용이 약 20% 감소했다.
Amazon SageMaker AI의 NVIDIA Nemotron 3 모델 서버리스 커스터마이징
Amazon SageMaker AI는 NVIDIA Nemotron 3 모델에 대한 서버리스 모델 커스터마이징을 도입했다. Nemotron 3 Nano(30B 총 파라미터, 3B 활성)와 Nemotron 3 Super(120B 총 파라미터, 12B 활성) 모델을 지원하며, 감독 학습(SFT), 검증 가능한 보상을 통한 강화 학습(RLVR), AI 피드백을 통한 강화 학습(RLAIF) 기법을 활용해 특정 도메인과 워크플로우에 맞게 조정할 수 있다. Nemotron 3은 하이브리드 Mamba-Transformer Mixture-of-Experts 아키텍처를 기반으로 하며, 최대 1M 토큰 컨텍스트 길이를 지원한다.
Nemotron 3 Nano는 4배 높은 처리량을 제공하며, 비용과 지연 시간이 중요한 고용량 멀티 에이전트 작업에 적합하다.
Henry Schein One, Amazon SageMaker AI로 실시간 치과 이미지 품질 검증 시스템 구축
Henry Schein One은 Amazon SageMaker AI를 기반으로 한 Image Verify라는 AI 품질 검증 시스템을 구축하여 치과 X-ray의 품질을 실시간으로 평가한다. 이 시스템은 10,000개 이상의 활성 위치에서 운영되며, 1주일에 150만 건의 X-ray를 처리하고 있다. Image Verify는 X-ray 촬영 후 3초 이내에 품질 점수를 제공하여, 저품질 이미지를 즉시 재촬영할 수 있도록 하여 환자의 재방문을 줄인다.
Image Verify는 X-ray의 품질을 1에서 5까지의 점수로 평가하여, 환자가 대기하는 동안 즉각적인 피드백을 제공함으로써 치과 진료의 효율성을 높인다.
AWS에서 Stardog와 Amazon Bedrock AgentCore를 사용한 의미적 레이어 구축
이 글에서는 Stardog의 Semantic AI Application을 사용하여 Amazon Aurora와 Amazon Redshift에서 AWS의 의미적 레이어를 구축하는 방법과 Amazon Bedrock AgentCore에서 Strands Agents 에이전트를 실행하여 ETL 없이 고객 360 질문에 답하는 방법을 보여준다. AWS의 데이터는 Amazon Aurora, Amazon Redshift, Amazon S3 등 다양한 시스템에 분산되어 있으며, AI 에이전트가 이들 데이터를 동시에 처리할 수 있도록 하는 것이 주요 도전 과제이다. 의미적 레이어는 비즈니스 데이터의 개념, 관계, 속성 및 규칙을 캡처하여 AI 에이전트가 여러 출처에서 답변을 구성할 수 있도록 돕는다.
의미적 레이어는 AI 에이전트가 여러 데이터 소스에서 정보를 통합하여 신뢰할 수 있는 답변을 제공할 수 있도록 한다.
Amazon Quick Automate의 네이티브 사례 관리로 에이전트 워크플로우 확장
Amazon Quick Automate는 AI 에이전트를 사용하여 청구서 처리, 클레임 판별, 지원 티켓 분류 등의 작업을 수행할 수 있도록 지원하며, 대규모 운영 환경에서의 도전 과제를 해결하기 위해 사례 관리 기능을 제공합니다. 이 기능은 각 작업 항목을 사례로 표현하여 워크플로우 상태를 단계별로 추적하고, 필요 시 인간의 개입을 지원하며, 동적 확장을 가능하게 합니다. 또한, 사례 관리 기능은 실시간 추적, 병렬 처리, 규정 준수 및 감사 가능성을 향상시킵니다.
Amazon Quick Automate의 사례 관리 기능은 작업 항목의 상태를 실시간으로 추적하여 비즈니스 서비스 수준 계약(SLA)을 충족하는 데 기여합니다.
Amazon SageMaker AI에서 Unsloth를 이용한 양자화 모델 배포
대형 기초 모델을 원래의 16비트 부동소수점 정밀도로 저장하면 비용이 많이 든다. 양자화는 모델의 가중치 정밀도를 줄여 메모리 사용량을 크게 줄인다. 동적 양자화는 메모리 사용량을 줄이면서 정확도를 유지할 수 있는 방법이다. Unsloth는 기초 모델을 미세 조정하고 양자화하는 도구로, 동적 양자화는 각 레이어의 정밀도 손실에 대한 민감도를 분석하여 중요한 레이어는 높은 정밀도로 유지하고 덜 중요한 레이어는 공격적으로 양자화한다. AWS에서 배포할 때 양자화는 인스턴스 결정, 시작 및 저장 프로필, 배포 유연성에 영향을 미친다.
Unsloth를 사용하면 8억 개의 매개변수를 가진 모델의 메모리 사용량을 약 16GB에서 약 5GB로 줄일 수 있다.
KTern.AI, Amazon Bedrock AgentCore를 활용한 SAP 변환을 위한 AI 에이전트 구축
KTern.AI는 Amazon Bedrock AgentCore를 사용해 SAP 디지털 변환을 위한 AI 에이전트를 구축하였다. 이 에이전트들은 재설계, 표준 적합, 코드 분석, 재무 및 판매 프로세스의 예외 탐색을 포함한 워크플로우를 자율적으로 조정하며, 맞춤형 에이전트 인프라 없이 자동화를 실현한다. KTern.AI는 SAP S/4HANA 마이그레이션과 디지털 변환 프로그램을 가속화하며, 데이터 기반의 하이퍼 자동화를 통해 7배 빠른 변환과 24%의 노력 절감을 제공한다.
Amazon Bedrock AgentCore를 통해 KTern.AI는 SAP 변환 프로젝트에서 에이전트들이 수백 번의 상호작용을 통해 상태를 유지하고, 역사적 결정을 참조하며, 전체 프로젝트 생애 주기 동안 누적 컨텍스트를 구축할 수 있게 되었다.
Hugging Face CEO, 기업들이 AI를 임대하는 시대는 끝났다고 언급
Hugging Face의 CEO Clem Delangue에 따르면, 오픈 소스 AI가 급성장하고 있으며, 이 회사는 최근 몇 년간 AI 빌더들이 오픈 모델과 데이터셋을 공유하고 다운로드할 수 있는 GitHub와 유사한 플랫폼으로 발전했다. 현재 Fortune 500 기업의 약 절반이 이 플랫폼을 사용하고 있다.
Hugging Face는 Fortune 500 기업의 약 절반이 사용하는 오픈 소스 AI 모델과 데이터셋을 제공하는 플랫폼이다.