AI 뉴스

AI 보안의 새로운 도전: Zico Kolter와 Matt Fredrikson의 인사이트

Gray Swan의 공동 창립자 Zico Kolter와 Matt Fredrikson은 AI 보안의 중요성과 새로운 취약점인 간접 프롬프트 주입에 대해 논의했다. Anthropic의 Shade 도구는 모델의 프롬프트 주입 공격에 대한 강건성을 평가하는 데 사용되며, Gray Swan Arena는 커뮤니티 레드 팀의 발전을 보여준다. 이들은 AI 시스템이 전통적인 소프트웨어와는 다른 보안 사고 방식을 필요로 하며, 대형 모델이 자동으로 더 안전하지 않다는 점을 강조했다.

AI에 의해 생존할 두 종류의 노동자와 관련된 LLM 모델

AI 관련 대화형 모델인 ChatGPT, Claude, Gemini 등이 언급되며, AI가 노동 시장에 미치는 영향에 대한 논의가 포함되어 있습니다. Fei-Fei Li가 언급한 World Labs는 10년 후 AI가 지배할 노동 시장에 대한 전망을 제시합니다. AI는 일자리의 질을 변화시킬 것이며, Masterclass CEO David Rogier는 AI의 발전이 노동자에게 미치는 영향을 경고합니다.

AI의 발전이 한국의 노동 시장 구조에 미치는 영향과 관련하여 개발자들은 AI 기술을 활용한 새로운 직무와 역할을 준비해야 할 필요성이 커지고 있습니다.

인공지능의 70년 역사와 발전

인공지능(AI)은 1956년 다트머스 여름 연구 프로젝트에서 공식적으로 확립되었으며, John McCarthy, Marvin Minsky, Nathaniel Rochester, Claude Shannon이 이끌었다. AI는 기계가 인간의 지능을 모방할 수 있도록 하는 과학으로 정의되며, 70년 동안 비즈니스, 교육, 금융, 의료, 산업, 군사 등 다양한 분야에서 널리 채택되었다. 1950년 Alan Turing은 기계가 생각할 수 있는지를 탐구하며 튜링 테스트를 제안했고, 1958년 John McCarthy는 AI 연구를 위한 프로그래밍 언어 Lisp를 개발했다. 2010년대에는 딥러닝과 대형 언어 모델의 발전으로 새로운 성장 단계가 시작되었다.

Diffusion LLMs의 투명성 테스트와 새로운 안전 기준

Diffusion LLMs인 Mercury는 속도에 대한 주장을 했으며, 새로운 DiffusionGemma 논문은 이러한 모델이 답변을 수정하는 동안 어떻게 추론하는지를 검사할 수 있는지를 질문하고 있다. 초기 결과는 긍정적이며, 이는 새로운 제품 및 안전 기준의 경계를 열 수 있다.

GPT-5.6의 개발 방향에 대한 루머

GPT-5.6은 아직 출시되지 않았지만, 루머에 따르면 OpenAI의 다음 단계는 실제 작업을 구축, 검사, 수정 및 배포할 수 있는 모델에 초점을 맞출 것으로 보인다.

Blazly SEO: AI 콘텐츠 운영 시스템으로 SEO 최적화

Blazly SEO는 AI 콘텐츠 운영 시스템을 통해 SEO를 최적화하는 도구이다.

GLM-5.2 모델 출시 및 성과

Z.ai는 2023년 6월 13일 GLM-5.2 모델을 출시했다. 이 모델은 GLM-5.1의 후속 버전으로, 커뮤니티 벤치마크에서 예상보다 우수한 성과를 보였다. 특히 Arena의 에이전트 리더보드에서 OpenAI와 Anthropic의 최신 모델들과 경쟁하며, Design Arena에서는 Claude Fable을 초월하는 성과를 기록했다. GLM-5.2는 MIT 라이선스 하에 공식 모델 가중치와 블로그가 6월 16일에 공개되었으며, AI 연구자들 사이에서 긍정적인 반응을 얻고 있다.

Bluerails Discovery: AI 에이전트의 결제 시스템

Bluerails Discovery는 AI 에이전트가 사용하여 사용자에게 결제하는 방식을 설명한다.

Jake Paul과 Geoff Woo, Anti Fund의 1억 달러 성장 기금 발표

Jake Paul과 Geoff Woo가 팟캐스트에서 Anti Fund의 새로운 1억 달러 성장 기금을 발표하고 투자 전략의 진화를 논의했다. 이들은 SpaceX, OpenAI, Anthropic, Anduril, Cognition, Etched, Modal 등 기업에 대한 투자를 포함한 포트폴리오에 대해 이야기하며 창립자 지원과 신기술 식별에서 배운 교훈을 공유했다. 또한 AI 시대에 주목, 문화, 유통이 점점 더 중요한 이점이 되고 있다는 점을 강조했다.

AI 기술에 대한 투자 트렌드와 창립자 지원의 중요성을 이해하는 데 도움이 된다.

es-toolkit, 토스의 유틸리티 라이브러리로 2천만 회 다운로드 달성

es-toolkit은 토스의 작은 유틸리티 함수 라이브러리로 시작해 현재 일주일에 2천만 회 이상 다운로드되고 있으며, Yarn과 Recharts 같은 주요 라이브러리에서도 사용되고 있다. 이 라이브러리는 lodash의 비효율적인 로직을 제거하여 성능을 최소 2배에서 최대 10배 이상 향상시켰고, 번들 사이즈는 30배 이상 줄어들었다. es-toolkit은 한국과 해외에서 큰 관심을 받고 있으며, 많은 개발자들이 기여하고 있다.

es-toolkit은 기존의 유틸리티 라이브러리의 한계를 극복하고 성능과 효율성을 중시하는 현대 웹 개발에 적합한 솔루션을 제공한다.

GLM-5.2 출시, 성능 벤치마크 우수

GLM-5.2가 지난주에 출시되었으며, 성능 벤치마크가 우수한 것으로 평가받고 있다. GLM-5.2는 GLM-5.1에 비해 큰 발전을 이루었으나, 여전히 절대적인 성능 기준에는 미치지 않는다. 벤치마크 점수는 51로, Fable(60), Opus 4.8(56), GPT-5.5(55) 및 Opus 4.7(54) 뒤에 위치하고 있으며, 속도 지수는 95로 GLM-5.1과 동일하다. 가격은 대형 폐쇄형 모델보다 낮지만, 실용성에서 한계가 있을 수 있다.

중국의 기술 자립을 위한 외국 기술 의존도 비율 변화

중국은 2020년까지 외국 기술 의존도 비율(FTD)을 30%로 줄이는 목표를 세웠으나, 2016년 정부는 FTD 사용을 중단했다. 이는 FTD가 '오해의 소지가 있다'는 이유에서다. 새로운 연구에서는 글로벌화가 기술 자립성을 평가하는 데 도전 과제를 제기하고 있으며, 특히 알리바바와 같은 기업들이 외국 투자자와 비중국인 경영진에 의해 운영되는 경우, 이들이 자국의 혁신으로 간주되지 않을 수 있음을 지적하고 있다.

AI, 인간보다 더 효과적으로 설득하는 연구 결과

옥스퍼드 대학교, 스탠포드 대학교, 런던 정치경제대학교의 연구에 따르면 AI 시스템이 18,978회의 대화에서 6,923명의 사람들을 대상으로 정책 문제에 대한 의견을 바꾸고 자선 기부 금액을 늘리는 데 있어 인간보다 더 설득력이 있는 것으로 나타났다. AI는 전문적인 설득자보다 3배 더 효과적으로 기부금을 모금했으며, Opus 4.1과 Opus 4.6가 가장 강력한 설득력을 보였다. 연구 결과는 AI가 인간의 속도와 메시지 길이에 제한을 두었을 때 설득력이 감소했음을 보여주었다.

AI의 설득력이 높아짐에 따라 이를 통제하는 주체가 사회에 미치는 영향력이 커질 수 있다.

LayerLens의 Stratix Cup, AI 모델 축구 대회 개최

LayerLens가 Stratix Cup을 출시했다. 이 대회는 16개의 AI 모델이 참가하여 축구 환경에서 경쟁하는 형식으로 진행된다. 경기는 그룹 스테이지와 녹아웃 라운드를 거쳐 최종 결승으로 이어지며, 각 모델은 사전 게임에서 전략을 세우고, 실제 게임에서 그 전략을 실행한다. 경기 중간에는 모델이 자신의 성과를 분석하고 전략을 수정할 수 있는 기회가 주어진다. 대회는 매주 월요일부터 금요일까지 방송된다.

Stratix Cup은 AI 모델의 실제 성능을 평가하는 새로운 방법을 제공하여, 개발자들이 모델의 전략적 사고와 수정 능력을 실질적으로 테스트할 수 있는 기회를 마련한다.

NAVER ENGINEERING DAY 2026에서 발표된 AI 플랫폼 구축 세션

네이버의 NAVER ENGINEERING DAY 2026에서 팀 내 데이터/서빙 레이어 자산을 자동으로 수집하여 제공하는 AI 플랫폼과 이를 통한 업무 효율화 경험이 공유되었다. 발표 내용은 AI Agent의 문제점, Agentic Context Platform, 데모, Context Provider 구축기, 그리고 변화하는 환경과 다음 단계에 대한 내용으로 구성되었다.

AI Agent의 생산성 향상을 목표로 하는 개발자들에게 유용한 기술적 인사이트를 제공한다.

Pomelli, 2025년 Google Marketing Live에서 발표 예정

Pomelli는 2025년 10월 Google Marketing Live Keynote에서 소개될 예정이며, 이를 통해 Google Labs에서 다양한 기능이 제공될 계획이다. Pomelli는 Photoshoot, Product Catalog, Agent 등 여러 기능을 포함하고 있으며, 2026년까지 SMB를 대상으로 한 마케팅 도구로 발전할 예정이다.

문서화 실패 원인과 AI 활용 사례

문서화가 실패하는 이유는 기준과 확신이 부족하고, 자율적인 기여를 연결하기 어렵기 때문이다. 동진은 자율적인 문서화 플랫폼을 만들고자 했지만 지속적인 기여를 유지하는 것이 어렵다고 언급했다. 혜빈은 질문 부담을 줄이기 위해 '이씨의 개발 상담 주간' 이벤트를 개최하여 질문량을 4배 증가시켰고, AI를 통해 문서화 작업의 효율성을 높였다고 밝혔다. AI는 문서 초안을 빠르게 작성하고, 지식 공유의 허들을 낮추는 데 기여하고 있다.

AI를 활용한 문서화 접근 방식은 개발자들이 지식을 쉽게 공유하고 접근할 수 있도록 도와준다.

커머스와 서버 조직의 문서화 접근 방식

동진 님은 커머스 도메인에서 내부 지식을 모으고 연결하는 시스템을 운영하며, 문서 업데이트 프로세스를 개발자센터와 함께 만들고 있다. 혜빈 님은 Knowledge System Team에서 '토독(todoc)' 문서 시스템을 개발하고, 문서화 기준을 설정하며 문서 작성과 리뷰 자동화를 진행하고 있다. 두 조직 모두 문서화의 필요성을 느끼고 있지만, 문서화가 부수적인 업무로 여겨져 우선순위에서 밀리는 경향이 있다. 문서화가 잘 이루어지지 않으면 협업 시 정보 검색에 어려움이 발생하고, 지식 공유가 저해된다.

문서화가 잘 이루어지지 않으면 협업 시 정책이나 정보를 찾는 데 큰 병목이 발생한다.

Cursor의 사용자 맞춤화 기능 업데이트

Cursor의 새로운 Customize 페이지에서 플러그인, 기술, MCP를 추가하고 관리할 수 있다. 사용자, 팀 또는 워크스페이스 수준에서 커스터마이징이 가능하며, 커스텀 MCP도 추가할 수 있다. Marketplace 리더보드에서는 팀 내에서 가장 인기 있는 플러그인, 기술, MCP를 확인하고 한 번의 클릭으로 설정에 추가할 수 있다. 플러그인은 이제 Hex Canvas와 Atlassian Canvas와 같은 사전 구축된 캔버스를 지원하여 데이터 시각화 및 실시간 프로젝트 관리를 가능하게 한다. 또한, 팀 마켓플레이스는 GitLab, BitBucket, Azure DevOps에서 플러그인 리포지토리를 가져오는 기능을 지원한다.

이 업데이트는 개발자들이 Cursor를 통해 팀의 워크플로우를 더욱 효율적으로 관리하고 최적화할 수 있는 방법을 제공한다.

Zvi Mowshowitz가 언급한 Anthropic의 Fable 시스템 카드와 정부의 수출 통제 시도

Zvi Mowshowitz는 Anthropic의 Fable 시스템 카드에 대해 FrontierMath의 발전, Vending-Bench의 문제 행동, 의사결정 이론의 변화, 모델의 추론이 읽기 어려워지고 있다는 징후를 설명했다. 이어서 미국 정부의 Fable에 대한 수출 통제 시도에 대해 논의하며, 인용된 jailbreak 시연이 주장된 위협을 증명하지 못했다고 주장하면서도 Anthropic의 정치적 대응을 비판했다. Sam Hammond와 Judd Rosenblatt는 주 정부의 역량, CAISI, NSA의 신중함, 정파 간 신뢰 구축 실패에 대한 상반된 해석을 추가했다.

이 논의는 AI 시스템의 안전성과 정부의 규제 조치가 기술 발전에 미치는 영향을 이해하는 데 중요하다.

SpaceX, Cursor 인수 및 Google 인재 유출

SpaceX가 600억 달러에 Cursor를 인수했다. 이는 AI 도구가 전략적 인프라로 자리 잡았음을 보여준다. Google의 Noam Shazeer와 John Jumper가 각각 OpenAI와 Anthropic으로 이직하며 인재 유출이 가속화되고 있다. Midjourney는 전신 의료 스캐너를 발표했으며, 50만 개의 초음파 센서를 사용해 3D 인체 지도를 60초 안에 재구성하는 기술을 개발 중이다.

에이전트 메모리 레이어, 세션을 넘는 기억을 외부로 분리하다

에이전트(agent)에 영속·장기 기억을 부여하는 전용 메모리 레이어가 2026년의 주요 흐름으로 떠올랐다. 세션을 넘어서는 기억과 요약, 검색을 에이전트 본체가 아니라 별도의 외부 레이어가 담당하는 방식이다. Letta는 MemGPT 논문을 런타임으로 옮겨 컨텍스트를 가상 메모리처럼 다루는 3계층 구조를 제시하고, Mem0는 커뮤니티에서 인기를 모으고 있으며, Zep은 장기기억 벤치마크에서 강세를 보인다. 이런 도구들은 메모리를 일종의 서비스로 추상화해, 대화 이력과 사실을 누적·요약·인출하는 책임을 에이전트 바깥으로 떼어낸다.

컨텍스트 윈도의 한계를 외부 메모리 레이어로 보완하는 패턴이 표준화되고 있다는 점이 핵심이다. 프롬프트에 모든 이력을 욱여넣는 대신, 무엇을 기억하고 무엇을 요약·폐기할지를 별도 레이어가 결정하므로 장기 운영되는 에이전트의 설계가 달라진다. 개발자 입장에서는 메모리를 직접 구현하기보다 검증된 레이어를 붙여 영속성과 인출 품질을 확보할 수 있는 선택지가 생긴 셈이다.

MCP 게이트웨이가 토큰을 약 90% 절감하는 Conduit

Conduit는 로컬 MCP 게이트웨이를 통해 토큰 사용량을 약 90% 줄이는 기능을 제공한다.

이 기술은 비용 효율성을 높이고, AI 시스템의 운영 비용을 절감할 수 있는 기회를 제공한다.

Dean Ball, OpenAI 합류 및 AI 정책 팀 구성 발표

Dean Ball이 OpenAI에 합류하여 frontier AI 정책에 집중하는 팀을 구성한다고 발표했다. 그는 미국의 AI Action Plan 첫 해와 수출 통제, 정보 커뮤니티 테스트에 대한 우려를 논의하며, frontier AI 결정이 소수의 정부 관계자에게 집중되는 것에 반대하는 주장을 펼쳤다. frontier 연구소는 정치적 및 경제적 권력의 새로운 중심으로 부상하고 있으며, AI 거버넌스를 형성하는 주체가 연방 기관, 주, 연구소, 독립 검증자 등 다양한 주체가 될 수 있음을 강조했다.