Category
보안·규제·저작권
프롬프트 인젝션, 데이터 유출, 개인정보·저작권, AI 규제까지 LLM 서비스가 떠안는 위험 영역이다. 모델에 들어가고 나오는 데이터가 곧 공격면이자 컴플라이언스 대상이다. 한국은 개인정보보호법과 생성물 저작권 판단이 빠르게 정리되는 중이라 설계 단계부터 따져야 한다.
AI가 보안에 미치는 긍정적 영향
AI는 보안 분야에서 중요한 역할을 하고 있으며, 다양한 방식으로 보안 시스템을 강화하는 데 기여하고 있다.
펜타곤, 군사 목표 설정에 AI의 역할 확대
펜타곤은 군사 목표 설정에서 AI의 역할을 확대할 계획을 세우고 있다. 이와 관련된 자세한 내용은 Bloomberg 기사에서 확인할 수 있다.
스와치, 삼성에 1억 7000만달러 손해배상 청구
스위스 시계 제조업체 스와치 그룹이 삼성전자를 상대로 제기한 상표권 침해 소송에서 1억 7000만달러(약 2610억원)의 손해배상을 청구했다. 이번 소송은 스마트워치 생태계 내 서드파티 앱의 디자인 복제 행위에 대한 플랫폼 제공자의 책임 범위를 가르는 중요한 사례가 될 것으로 보인다. 영국 런던 고등법원에서 손해배상 산정 재판이 26일 종료되었으며, 최종 판결이 기다려지고 있다.
미국 정부, 앤트로픽의 미소스 5 접근 허용 및 페이블 5 금지 유지
미국 정부가 앤트로픽의 '미소스 5'에 대한 접근을 일부 신뢰할 수 있는 미국 기관과 기업에 허용했으나, '페이블 5'는 외국인 접근 금지 상태로 남아 있다. 정부의 특정 기업 선정에 따른 접근 권한 부여는 AI 시장의 과도한 통제와 형평성 문제를 야기하고 있다.
AI 보안의 새로운 도전: Zico Kolter와 Matt Fredrikson의 인사이트
Gray Swan의 공동 창립자 Zico Kolter와 Matt Fredrikson은 AI 보안의 중요성과 새로운 취약점인 간접 프롬프트 주입에 대해 논의했다. Anthropic의 Shade 도구는 모델의 프롬프트 주입 공격에 대한 강건성을 평가하는 데 사용되며, Gray Swan Arena는 커뮤니티 레드 팀의 발전을 보여준다. 이들은 AI 시스템이 전통적인 소프트웨어와는 다른 보안 사고 방식을 필요로 하며, 대형 모델이 자동으로 더 안전하지 않다는 점을 강조했다.
Meta 전 국제관계팀장 Sarah Wynn-Williams의 회고록과 법적 압박
Meta 전 국제관계팀장 Sarah Wynn-Williams의 회고록 Careless People을 둘러싼 법적 압박이 전·현직 직원들의 발언을 위축시키고 있다. Wynn-Williams의 고용 계약에는 비밀유지, 비방 금지, 강제 중재 조항이 포함되어 있다.
실패한 국가 차원의 공격 분석
해당 블로그 글에서는 2026년 6월 25일에 발생한 실패한 국가 차원의 공격을 분석하고 있다. 공격의 구체적인 내용과 실패 원인에 대한 논의가 포함되어 있으며, 관련된 댓글도 확인할 수 있다.
AI 규제와 오픈 소스의 중요성
워싱턴에서 AI 규제를 위한 움직임이 감지되고 있으며, 최근 서명된 행정명령과 의회의 법안 제안 등이 오픈 소스 AI에 대한 규제를 초래할 수 있다는 우려가 제기되고 있다. 오픈 소스는 기술을 공개적으로 공유하고 배포하는 과정으로, 90% 이상의 소프트웨어가 오픈 소스를 기반으로 하여 8조 달러 이상의 경제적 이익을 창출했다. 오픈 소스는 교육, 혁신, 경쟁을 촉진하며, Linux와 Android와 같은 시스템이 시장에서의 독점적 위협을 줄이는 데 기여하고 있다. AI 분야에서도 오픈 소스는 스타트업과 교육 기관에 대안으로 기능하고 있다.
독일 법원, 구글 AI 요약의 오류에 대한 책임 인정
브루스 슈나이어는 최근 독일 법원이 구글이 AI 요약에서 발생한 오류에 대해 책임을 져야 한다고 판결한 내용을 언급했다. AI 에이전트는 이를 배포하는 개인이나 조직의 대리인으로 간주되어야 하며, 기업이 인적 작가를 고용하여 요약을 작성했다면 그 기업은 부정확성에 대해 책임을 져야 한다고 주장했다. AI의 오류를 기업이 변명으로 삼는 것은 기업의 잘못된 행동을 조장할 수 있다는 경고도 포함되어 있다.
Windows 10의 무료 Extended Security Update 프로그램 1년 연장
Microsoft는 Windows 10 사용자에게 무료 Extended Security Update 프로그램을 1년 더 연장한다고 발표했다.
미국, Anthropic의 새로운 모델 Fable 사용 제한
미국 정부는 Anthropic의 새로운 모델 Fable의 사용을 미국 시민으로 제한하고자 한다. 이로 인해 중국이 다른 국가 및 비미국 기업들이 사용할 수 있는 유능한 오픈 모델의 중심이 될 가능성이 커졌다. 또한, Meta는 비엔지니어링 팀에서 10% 이상의 인력을 감축했으며, Integrity 팀은 이미 인력 부족 상태였다. SpaceX는 IPO를 통해 엘론 머스크가 조 단위 자산가가 되었고, Cursor와 Continue를 인수했다.
Stability AI, Tech Coalition에 가입
Stability AI는 Safer Internet Day 이후, 온라인 아동 성착취 및 학대를 방지하기 위해 기술 기업들의 글로벌 연합인 Tech Coalition에 가입했다. 2025년에는 Tech Coalition의 Pathways 프로그램에 참여하여 아동 안전 관련 안전 및 책임 관행을 강화할 계획이다. 이번 회원 가입은 Stability AI의 안전 프로그램의 성숙도를 반영하며, 다른 기업들과의 협력을 통해 디지털 생태계에서 취약한 사용자 보호를 강화할 예정이다.
Project Glasswing의 보안 모델과 취약점 탐지 시스템 구축
Cloudflare의 Project Glasswing은 기업 코드베이스에 프론티어 보안 모델을 적용한 초기 결과를 발표했다. 단일 모델에 의존하는 개발자들은 모델이 더 이상 사용 불가능해지거나 더 강력한 모델로 대체될 때의 문제를 경험하고 있다. 따라서 보안 아키텍처는 모델을 교환 가능한 구성 요소로 취급해야 하며, 다양한 모델을 사용하여 취약점을 교차 검증해야 한다. 이를 통해 수천 개의 후보를 신뢰할 수 있는 수정 대기열로 필터링할 수 있다. 또한, 보안 분석은 수백 개의 별도 조사가 필요하며, 이는 지속성과 중복 제거, 재개 가능성을 요구한다.
Together AI, ISO 27001:2022 인증 획득
Together AI는 ISO 27001:2022 인증을 획득하여 생산 AI 작업에 대한 기업 수준의 보안에 대한 헌신을 검증받았다.
미국과 이란, 평화 회담 내러티브를 둘러싼 갈등
미국과 이란은 평화 회담에 대한 내러티브를 형성하기 위해 서로 상반된 주장을 하고 있다. 도널드 트럼프 미국 대통령은 이란이 전체 핵 검사를 수용했다고 주장했으나, 이란은 가장 중요한 장소에 대한 검사가 불가능하다고 반박했다. JD 밴스 부통령은 미국과 카타르 관계자들이 이란 자산의 동결 해제를 감독할 것이라고 했으나, 이란은 이를 부인했다. 트럼프는 선호하는 결과를 합의된 거래로 발표하는 경향이 있으며, 이란은 즉각적으로 미국의 주장을 부인하는 전략을 사용하고 있다. 이러한 모순은 양측이 근본적으로 서로 동의하지 않음을 보여준다.
Anthropic, Fable 5 및 Mythos 5 접근 차단
Anthropic은 6월 9일 Claude Fable 5를 출시했으나, 3일 후인 6월 12일 미국 정부가 Fable에서 발견된 jailbreak 문제로 인해 Fable 5와 Mythos 5에 대한 접근을 모든 외국인에게 차단했다. Mythos는 특정 기업에만 제공되는 모델로 사이버 보안 위험이 있다고 알려졌다. Anthropic은 외국인 직원도 포함하여 모든 사용자의 접근을 차단하기로 결정했다.
AI를 일반 기술로 보는 관점과 정부 개입의 필요성
Derek Thompson은 AI의 노동 시장 영향이 느리다는 주장에 동의하며, 현재 GDP 성장률과 고용률을 근거로 AI가 일반 기술로서의 특성을 보인다고 언급했다. 그러나 AI의 위험성에 대해서는 비관적인 입장을 취하며, 정부의 '비상' 개입이 필요하다고 주장했다. 그는 AI의 새로운 위험이 기존 기술과 다르다고 강조하며, 정부가 AI를 비정상 기술로 간주하고 규제를 강화해야 한다고 주장했다. 반면, 발췌에서는 정부의 비상 개입이 가져올 부작용과 대안으로서의 회복력 강화를 논의하고 있다.
Dean Ball, OpenAI 합류 및 AI 정책 팀 구성 발표
Dean Ball이 OpenAI에 합류하여 frontier AI 정책에 집중하는 팀을 구성한다고 발표했다. 그는 미국의 AI Action Plan 첫 해와 수출 통제, 정보 커뮤니티 테스트에 대한 우려를 논의하며, frontier AI 결정이 소수의 정부 관계자에게 집중되는 것에 반대하는 주장을 펼쳤다. frontier 연구소는 정치적 및 경제적 권력의 새로운 중심으로 부상하고 있으며, AI 거버넌스를 형성하는 주체가 연방 기관, 주, 연구소, 독립 검증자 등 다양한 주체가 될 수 있음을 강조했다.
엘론 머스크, OpenAI와의 소송에서 패소 및 OpenAI IPO 준비
엘론 머스크는 2026년 5월 18일 OpenAI와 샘 올트먼을 상대로 한 1500억 달러 소송에서 패소했다. 배심원단은 머스크의 주장인 자선 신탁 위반과 부당 이득이 소송 시효에 의해 기각되었다. OpenAI는 IPO를 준비 중이며, 2026년 가을에 상장할 계획이다. 현재 OpenAI의 가치는 8520억 달러로, IPO 시 1조 달러에 이를 것으로 예상된다. 구글은 2026년 I/O에서 Gemini 앱을 업데이트하고, Gemini Spark와 Gemini Omni 모델을 발표했다.
Claude Fable 5와 Claude Mythos 5의 서비스 중단 및 Anthropic의 대응
Claude Fable 5와 Claude Mythos 5는 금요일 오후 5시 23분에 백악관의 수출 통제로 인해 중단되었다. 이는 Fable의 '탈옥' 문제와 관련이 있으며, Amazon이 이를 백악관에 알렸다. Anthropic의 Dario Amodei는 문제를 심각하게 받아들이지 않았고, 이로 인해 서비스 중단이 발생했다. 백악관은 Fable이 '탈옥' 문제를 해결할 때까지 온라인으로 복귀할 수 없다고 밝혔다. 현재 이 문제는 해결이 불가능하다고 전해진다.
화학 위생 가이드: 물, 공기, 음식 관리 방법
물 관리는 Reverse Osmosis 시스템을 통해 이루어져야 하며, 전체 주택 필터와 싱크대 아래 설치 시스템을 권장한다. 공기 관리를 위해 HVAC 필터와 공기 청정기를 설치하고, 연소를 피해야 하며, 공기 질 측정을 위한 장비 사용이 필요하다. 음식은 공급망이 복잡해 관리가 어려우며, 미국 정부의 규제가 부족하다는 점이 지적된다.
Anthropic, Claude Fable 5 및 Mythos 5 AI 모델 서비스 중단
Anthropic은 미국 정부의 수출 통제 지침에 따라 Claude Fable 5와 Mythos 5 AI 모델을 오프라인으로 전환했다. Mythos는 4월에 출시되었으며, 소프트웨어 취약점을 찾고 악용할 수 있는 방법을 파악하는 능력을 갖추고 있다고 경고했다. Anthropic은 이러한 AI 모델의 사용이 사이버 보안 전문가에게는 유익하지만 악의적인 행위자에게는 위험할 수 있다고 밝혔다. Mythos Preview는 특정 컨소시엄에 처음 공개되었고, Mythos 5는 지난주에 이 그룹에 비공식적으로 배포되었으며, Claude Fable 5는 특정 제한을 두고 일반 대중에게 출시되었다.
대만, 중국 군사 위협에 대응하기 위한 드론 생산 확대
대만 정부는 중국의 군사적 침략을 저지하기 위해 군사 드론의 국내 생산을 강화하고 있으며, 이를 위해 6년간 66억 달러의 특별 예산을 제안했다. 이 예산은 2026년부터 2031년까지 208,000개의 해안 공격 드론, 1,400개의 해안 정찰 드론, 1,320개의 무인 수상 선박을 구매하는 데 사용될 예정이다. 현재 대만 군은 5,000개의 미국산 공격 드론과 자국 생산 드론을 보유하고 있다. 최근 대만 군은 미국 Anduril Industries의 자회사에서 제작한 Altius-600 드론을 사용하여 군사 훈련 중 해상 목표를 타격했다.
버니 샌더스, AI 산업 통제 위한 7조 달러 계획 발표
버니 샌더스는 AI 기업에서 공공으로 자금을 이전하는 계획을 발표했다. 이 법안이 통과될 경우, 최대 AI 기업의 주식에 대해 50%의 일회성 세금을 부과하여 조성된 기금은 약 7조 달러에 이를 것으로 예상된다. 연간 2억 달러 이상의 AI 매출을 올리는 모든 AI 기업이 이 세금의 대상이 된다. 샌더스는 이 기금이 매년 수십억 달러의 직접 지급과 건강 관리, 교육, 주택 프로그램에 사용될 것이라고 밝혔다. 각 미국인은 연간 1,000달러 이상의 배당금을 받을 것으로 예상된다.