Category
보안·규제·저작권
프롬프트 인젝션, 데이터 유출, 개인정보·저작권, AI 규제까지 LLM 서비스가 떠안는 위험 영역이다. 모델에 들어가고 나오는 데이터가 곧 공격면이자 컴플라이언스 대상이다. 한국은 개인정보보호법과 생성물 저작권 판단이 빠르게 정리되는 중이라 설계 단계부터 따져야 한다.
마리아 코리나 마차도, 미국 정부와의 갈등 속 베네수엘라 귀환 시도
베네수엘라 야당 지도자 마리아 코리나 마차도가 최근 발생한 지진 이후 고국으로 돌아가려는 시도가 트럼프 행정부의 반발을 샀다. 마차도는 미국에서 만료된 베네수엘라 여권으로 생활하며, 국무장관과 공화당 의원들에게 귀환을 요청했지만, 이로 인해 미국 국무부 내부에서 혼란이 발생했다. 그녀는 6월 24일 지진 이후 귀국을 시도했으나, 네덜란드 당국의 오해로 비행기가 회항되었고, 이후 파나마에서 카라카스로 가려던 시도가 차단되었다. 미국 정부는 마차도의 귀환을 공식적으로 지지하지 않으며, 그녀의 행동이 베네수엘라 내에서의 불안정을 초래할 수 있다고 우려하고 있다.
트럼프, 임신한 외국인 여성 미국 입국 차단 계획
대법원이 트럼프 행정부의 출생 시민권 관련 행정명령이 위헌이라고 판결한 후, 트럼프 보좌관들은 임신한 외국인 여성의 미국 입국을 차단하는 새로운 계획을 제안했다. 이 계획은 출생 시민권의 권리를 도전하는 것에서 미국 입국 제한으로 논의를 전환할 것으로 보인다. 법무부는 출생 관광 관련 범죄를 조사할 것을 강조하며, 비자 사기, 의료 사기 등의 혐의로 기소할 수 있는 사례를 언급했다. 외부 추정에 따르면, 매년 20,000에서 26,000명의 외국인 방문객이 미국에서 출생하는 것으로 추정된다.
존 브레넌, 트럼프 행정부의 기록 보존 요구 소송 제기
존 브레넌 전 CIA 국장이 트럼프 행정부를 상대로 조사 관련 기록 보존을 요구하는 소송을 제기했다. 브레넌은 이 조사가 트럼프의 정치적 보복의 일환이라고 주장하며, 기록이 보존되지 않으면 자신의 헌법적 주장을 입증하기 어려워질 것이라고 우려하고 있다. 그의 변호사들은 최근의 기록 보존 변경이 기존 관행과 다르다고 주장하고 있으며, 브레넌은 향후 기소에 대해 강력히 대응할 것이라고 전해진다.
백악관, GPT-5.6 접근 권한 개별 결정
백악관이 GPT-5.6의 접근 권한을 고객별로 승인하는 비공식적이고 불투명한 방식을 채택했다. 이는 보안 우려로 인해 OpenAI가 GPT-5.6의 출시를 단계적으로 진행하도록 요청받은 결과이다. 이로 인해 공개된 모델과 내부에서 개발 중인 모델 간의 격차가 점점 더 커질 것으로 예상된다. 또한, 중국 모델의 서방에서의 사용이 제한되거나 금지될 가능성이 높아졌다.
Microsoft Teams에 봇 출입 제한 기능 추가
Microsoft는 Teams 회의에 봇이 자동으로 참여하는 문제를 해결하기 위해 '봇 바운서' 기능을 도입했다. 이 기능은 회의에 참여하기 전에 인간이 봇의 ID를 확인하도록 요구하며, 봇이 회의에 들어오려면 여러 번 클릭해야 한다. Microsoft는 또한 독립 소프트웨어 공급업체(ISV)가 Teams 회의 경험을 구축할 수 있도록 등록 경로를 추가할 계획이다. 이 등록 경로를 통해 봇 제작자는 Microsoft에 등록하고 자신을 식별할 수 있는 마커를 요청에 포함할 수 있다.
중국 대학의 AI 감시 시스템 도입 현황
2024년 3월부터 중국 북동부의 한 2급 대학에서 AI 감시 시스템이 도입되었으며, 90% 이상의 교실에 설치됐다. 이 시스템은 학생의 주의 집중도를 나타내는 '머리 들기 비율', 교사와의 상호작용 패턴, 학생의 표정 등을 기록한다. 교수들은 AI 감시로 인해 '강사'에서 '퍼포머'로 전환되었으며, 강의 내용이 민감한 주제를 다루는지 모니터링되어 자유로운 강의 진행이 어려워졌다. 교육의 본질이 왜곡되고 있다는 우려가 제기되고 있다.
한국, 군 전체를 드론 조종사로 훈련 계획 발표
한국은 군의 모든 구성원 약 50만 명을 드론 조종사로 훈련할 계획을 발표했다. 이 목표는 북한과의 70년 간의 국경 대치 상황에서 기술적 우위를 유지하기 위한 것으로, 드론을 모든 군인에게 '두 번째 개인 무기'처럼 사용할 수 있도록 훈련하는 것이 목표이다. 또한, 군 단위에 저렴하고 소모 가능한 드론을 배치하고, 반드론 레이저 및 마이크로웨이브 무기를 추가로 배치할 계획이다. 드론 작전 사령부는 상업용 드론 기술 개발 및 조달을 위해 한국 산업과 협력하는 방향으로 재편될 예정이다.
검찰, Palisades 화재 재판에서 ChatGPT 로그를 증거로 사용
Jonathan Rinderknecht는 2025년 새해 첫날 발생한 LA 역사상 가장 치명적인 산불 중 하나에 대한 방화 혐의로 기소되었다. 검찰은 그의 아이폰 위치 데이터, 보안 카메라 영상, 목격자 진술 외에도 Rinderknecht의 ChatGPT 로그를 증거로 활용했다. 그는 ChatGPT에게 화재 이미지를 생성하도록 요청하고, '왜 항상 이렇게 화가 나는가?'라는 질문을 하며 부유층이 세상을 파괴하고 있다는 내용으로 불만을 토로했다. 또한 Rinderknecht는 ChatGPT에게 누군가가 불을 지른 경우 책임을 물을 수 있는지를 묻는 화면 녹화도 증거로 제시되었다.
트럼프 행정부, Anthropic의 Mythos를 일부 미국 기관에 공개 허용
백악관은 Anthropic이 가장 진보된 AI 모델인 Mythos에 대한 접근을 일부 미국 기업 및 정부 기관에 허용하도록 승인했다. 이 결정은 몇 주간의 협상 끝에 이루어졌다.
백악관, OpenAI의 GPT-5.6 모델 출시 연기 요청
백악관이 OpenAI에 GPT-5.6 AI 모델의 출시를 연기할 것을 요청했다. 이는 Anthropic이 자사의 가장 진보된 AI 모델을 오프라인으로 전환한 지 두 주 만에 발생한 일이다.
가나 디지털 전환을 위한 GitHub와 UNDP의 오픈소스 평가
가나의 통신부(MoCDTI)는 디지털 전환을 위해 오픈소스 소프트웨어를 채택하고 있으며, 이를 위해 UNDP와 GitHub 정책팀이 OSPORA 평가를 실시했다. 이 과정에서 MoCDTI, 국가 IT 기관, Kofi Annan-India Center of Excellence 등 다양한 이해관계자와 인터뷰 및 워크숍을 진행했다. 가나는 디지털화에 대한 정치적 의지와 오픈소스 경험이 풍부한 주체들이 있으나, 오픈소스에 대한 중앙집중적 정책 부족, 부처 간 조정 문제, 자원이 부족한 IT 팀 등의 과제가 남아 있다.
AI가 보안에 미치는 긍정적 영향
AI는 보안 분야에서 중요한 역할을 하고 있으며, 다양한 방식으로 보안 시스템을 강화하는 데 기여하고 있다.
펜타곤, 군사 목표 설정에 AI의 역할 확대
펜타곤은 군사 목표 설정에서 AI의 역할을 확대할 계획을 세우고 있다. 이와 관련된 자세한 내용은 Bloomberg 기사에서 확인할 수 있다.
스와치, 삼성에 1억 7000만달러 손해배상 청구
스위스 시계 제조업체 스와치 그룹이 삼성전자를 상대로 제기한 상표권 침해 소송에서 1억 7000만달러(약 2610억원)의 손해배상을 청구했다. 이번 소송은 스마트워치 생태계 내 서드파티 앱의 디자인 복제 행위에 대한 플랫폼 제공자의 책임 범위를 가르는 중요한 사례가 될 것으로 보인다. 영국 런던 고등법원에서 손해배상 산정 재판이 26일 종료되었으며, 최종 판결이 기다려지고 있다.
미국 정부, 앤트로픽의 미소스 5 접근 허용 및 페이블 5 금지 유지
미국 정부가 앤트로픽의 '미소스 5'에 대한 접근을 일부 신뢰할 수 있는 미국 기관과 기업에 허용했으나, '페이블 5'는 외국인 접근 금지 상태로 남아 있다. 정부의 특정 기업 선정에 따른 접근 권한 부여는 AI 시장의 과도한 통제와 형평성 문제를 야기하고 있다.
AI 보안의 새로운 도전: Zico Kolter와 Matt Fredrikson의 인사이트
Gray Swan의 공동 창립자 Zico Kolter와 Matt Fredrikson은 AI 보안의 중요성과 새로운 취약점인 간접 프롬프트 주입에 대해 논의했다. Anthropic의 Shade 도구는 모델의 프롬프트 주입 공격에 대한 강건성을 평가하는 데 사용되며, Gray Swan Arena는 커뮤니티 레드 팀의 발전을 보여준다. 이들은 AI 시스템이 전통적인 소프트웨어와는 다른 보안 사고 방식을 필요로 하며, 대형 모델이 자동으로 더 안전하지 않다는 점을 강조했다.
Meta 전 국제관계팀장 Sarah Wynn-Williams의 회고록과 법적 압박
Meta 전 국제관계팀장 Sarah Wynn-Williams의 회고록 Careless People을 둘러싼 법적 압박이 전·현직 직원들의 발언을 위축시키고 있다. Wynn-Williams의 고용 계약에는 비밀유지, 비방 금지, 강제 중재 조항이 포함되어 있다.
실패한 국가 차원의 공격 분석
해당 블로그 글에서는 2026년 6월 25일에 발생한 실패한 국가 차원의 공격을 분석하고 있다. 공격의 구체적인 내용과 실패 원인에 대한 논의가 포함되어 있으며, 관련된 댓글도 확인할 수 있다.
AI 규제와 오픈 소스의 중요성
워싱턴에서 AI 규제를 위한 움직임이 감지되고 있으며, 최근 서명된 행정명령과 의회의 법안 제안 등이 오픈 소스 AI에 대한 규제를 초래할 수 있다는 우려가 제기되고 있다. 오픈 소스는 기술을 공개적으로 공유하고 배포하는 과정으로, 90% 이상의 소프트웨어가 오픈 소스를 기반으로 하여 8조 달러 이상의 경제적 이익을 창출했다. 오픈 소스는 교육, 혁신, 경쟁을 촉진하며, Linux와 Android와 같은 시스템이 시장에서의 독점적 위협을 줄이는 데 기여하고 있다. AI 분야에서도 오픈 소스는 스타트업과 교육 기관에 대안으로 기능하고 있다.
독일 법원, 구글 AI 요약의 오류에 대한 책임 인정
브루스 슈나이어는 최근 독일 법원이 구글이 AI 요약에서 발생한 오류에 대해 책임을 져야 한다고 판결한 내용을 언급했다. AI 에이전트는 이를 배포하는 개인이나 조직의 대리인으로 간주되어야 하며, 기업이 인적 작가를 고용하여 요약을 작성했다면 그 기업은 부정확성에 대해 책임을 져야 한다고 주장했다. AI의 오류를 기업이 변명으로 삼는 것은 기업의 잘못된 행동을 조장할 수 있다는 경고도 포함되어 있다.
Windows 10의 무료 Extended Security Update 프로그램 1년 연장
Microsoft는 Windows 10 사용자에게 무료 Extended Security Update 프로그램을 1년 더 연장한다고 발표했다.
미국, Anthropic의 새로운 모델 Fable 사용 제한
미국 정부는 Anthropic의 새로운 모델 Fable의 사용을 미국 시민으로 제한하고자 한다. 이로 인해 중국이 다른 국가 및 비미국 기업들이 사용할 수 있는 유능한 오픈 모델의 중심이 될 가능성이 커졌다. 또한, Meta는 비엔지니어링 팀에서 10% 이상의 인력을 감축했으며, Integrity 팀은 이미 인력 부족 상태였다. SpaceX는 IPO를 통해 엘론 머스크가 조 단위 자산가가 되었고, Cursor와 Continue를 인수했다.
Stability AI, Tech Coalition에 가입
Stability AI는 Safer Internet Day 이후, 온라인 아동 성착취 및 학대를 방지하기 위해 기술 기업들의 글로벌 연합인 Tech Coalition에 가입했다. 2025년에는 Tech Coalition의 Pathways 프로그램에 참여하여 아동 안전 관련 안전 및 책임 관행을 강화할 계획이다. 이번 회원 가입은 Stability AI의 안전 프로그램의 성숙도를 반영하며, 다른 기업들과의 협력을 통해 디지털 생태계에서 취약한 사용자 보호를 강화할 예정이다.
Project Glasswing의 보안 모델과 취약점 탐지 시스템 구축
Cloudflare의 Project Glasswing은 기업 코드베이스에 프론티어 보안 모델을 적용한 초기 결과를 발표했다. 단일 모델에 의존하는 개발자들은 모델이 더 이상 사용 불가능해지거나 더 강력한 모델로 대체될 때의 문제를 경험하고 있다. 따라서 보안 아키텍처는 모델을 교환 가능한 구성 요소로 취급해야 하며, 다양한 모델을 사용하여 취약점을 교차 검증해야 한다. 이를 통해 수천 개의 후보를 신뢰할 수 있는 수정 대기열로 필터링할 수 있다. 또한, 보안 분석은 수백 개의 별도 조사가 필요하며, 이는 지속성과 중복 제거, 재개 가능성을 요구한다.