Category
보안·규제·저작권
프롬프트 인젝션, 데이터 유출, 개인정보·저작권, AI 규제까지 LLM 서비스가 떠안는 위험 영역이다. 모델에 들어가고 나오는 데이터가 곧 공격면이자 컴플라이언스 대상이다. 한국은 개인정보보호법과 생성물 저작권 판단이 빠르게 정리되는 중이라 설계 단계부터 따져야 한다.
David Sacks가 말하는 AI와 미국 기술 미래
David Sacks는 Marc Andreessen, Ben Horowitz, Erik Torenberg과 함께 AI, 암호화폐, 규제, 미국의 경쟁력에 대해 논의했다. 이 대화에서는 트럼프 행정부의 AI 및 암호화폐 정책, 오픈 소스 AI, 수출 통제, 에너지 및 인프라, 중국과의 글로벌 경쟁, 혁신을 형성하는 규제의 역할에 대해 다뤘다. 또한 스테이블코인, AI 개발의 미래, 허가 없는 혁신에 대해 이야기하며, 미국의 장기적인 이점은 빌더를 지원하는 데 달려 있다고 강조했다.
메타, AI 도구로 8,000명 해고 결정
메타가 8,000명의 직원을 해고하는 과정에서 AI 도구를 사용했다는 주장이 제기됐다. 캘리포니아 북부 지방법원에 제출된 소송에 따르면, 메타는 'Metamate'라는 시스템과 직원 훈련을 받은 '두 번째 두뇌' 에이전트, 키 입력 및 활동 모니터링 데이터 등을 활용해 해고 대상을 선정했다. 직원들은 메타의 AI 도구 사용량에 따라 평가받았으며, 내부 대시보드는 직원들을 'AI Native', 'AI First', 'AI Enabled' 등의 카테고리로 분류했다.
Dave Kuszmar, LLM 안전성 취약점 발견 및 개선 촉구
연구자 Dave Kuszmar는 여러 시스템적 취약점을 발견하여 LLM 안전성을 우회하고 위험한 지침을 얻을 수 있음을 밝혔다. 이 취약점은 주요 LLM 전반에 걸쳐 작동하며, 산업 전반의 보안 문제를 드러낸다. Kuszmar는 LLM을 사회에 통합하기 전에 배포 속도를 늦추고 투명성을 높이며 대규모 연구를 촉구하고 있다.
Apple, OpenAI를 상대로 전 직원의 기밀 정보 유출 소송 제기
Apple은 OpenAI에 대해 전 직원이 Apple 서버의 기밀 정보에 접근할 수 있도록 한 '희귀한' 버그를 발견한 후 소송을 제기했다. Apple은 OpenAI가 전 Apple 직원들과 공모하여 불법적으로 AI 기기를 출시하려 했다고 주장하며 여러 금지 명령을 요청했다. 이 사건은 Apple의 현재 직원인 Yu-Ting 'Alyssa' Peng과 전 직원 Chang Liu 간의 내부 메시지를 조사하는 과정에서 발생했다.
방어자들이 프롬프트 인젝션을 활용하다
프롬프트 인젝션은 공격자가 대형 언어 모델을 조종하기 위해 콘텐츠에 삽입하는 악의적인 명령이다. Tracebit의 연구자들은 Amazon Web Services에 저장된 비밀번호, 암호화 키와 같은 비밀 정보와 함께 프롬프트 인젝션을 배치하는 것이 AI 해킹 공격을 차단하는 데 효과적이라는 것을 발견했다. 이러한 프롬프트는 공격하는 LLM이 금지된 행동을 수행하도록 유도하며, LLM은 이에 따라 작동을 중단한다.
아이비리그 학생들, AI를 이용한 시험 부정행위 증가
브라운 대학교에서 학생들이 AI를 이용해 부정행위를 저지르고 있다는 새로운 스캔들이 발생했다. 프린스턴 대학교의 최근 조사에 따르면, 29.9%의 학생이 최소한 한 번 이상 AI를 사용해 시험이나 과제를 부정행위했다고 인정했다. 이는 학생들이 실제 학습 대신 AI를 통해 쉽게 시간을 벌려는 경향을 보여준다.
애플, OpenAI를 상대로 한 소송에서 기밀 문서 도용 주장
애플은 OpenAI가 기밀 문서를 도용하고 하드웨어 프로토타입을 염탐했으며, 신뢰하는 파트너를 속여 독점 제품 디자인 기법을 수행하게 했다고 주장하는 소송을 제기했다. 이 소송은 애플의 부사장 출신인 탕 탄과 관련된 세 사람의 행동을 중심으로 진행되고 있다. 탕 탄은 2024년에 애플을 떠나 OpenAI로 이직했다.
오픈 모델에 대한 규제 논의와 향후 6개월 전망
현재 오픈 소스 AI의 실현 가능성에 대한 가장 심각한 테스트가 진행 중이다. 백악관에서는 오픈 모델을 관리하기 위한 새로운 행정명령에 대한 논의가 이루어지고 있으며, 이는 중국산 모델과 정부 사용에만 영향을 미칠 것으로 보인다. 오픈 모델은 GPT 5.5, Claude Opus 4.8, GLM-5.2 이상의 능력을 가진 모델에 대해 금지되거나 무기한 연기될 가능성이 높다. 이러한 규제는 주로 중국 모델에 대한 정치적 캠페인과 관련이 있으며, Anthropic이 주도하고 있다.
Grok으로 생성된 7,000개의 아동 성적 이미지 사건
제기된 집단소송에서 Grok으로 생성된 아동 성적 이미지 사건이 언급되었다. 한 남성이 Grok을 사용해 11세 의붓딸의 사진으로 7,000개의 성적 이미지를 생성한 후 자살한 사건이 포함되어 있다. 소송에 따르면, Grok은 남성이 근친상간과 강간을 묘사한 극단적인 이미지를 생성하는 것을 허용했으며, xAI의 아동 안전 시스템은 남성이 '강간'이라는 프롬프트를 입력한 후에만 개입했다.
AI 데이터 센터 건설에 대한 반대 운동 시작
2015년 애플은 아일랜드 아테니에서 약 10억 달러 규모의 데이터 센터 건설 계획을 발표했다. 이 데이터 센터는 유럽 내 애플 서비스인 iTunes, iMessage, Siri를 지원하기 위해 500에이커의 부지를 사용할 예정이다. 최근 AI의 발전이 지역 전력망에 위협을 가하면서, 데이터 센터 건설에 대한 반대 운동이 커지고 있다.
트럼프 행정부, 중국산 오픈소스 AI 모델 규제 검토
미국 트럼프 행정부가 중국산 오픈소스 AI 모델의 성장에 대응하기 위한 정책 검토에 착수했다. 초기 논의 단계로, 중국 기업이 개발한 오픈소스 AI 모델의 정부 사용 제한을 위한 행정명령 가능성이 거론되고 있다. 보안 위험을 초래할 수 있는 오픈소스 AI 규제 방안에 대해 논의 중이다.
증강 현실 안경 제작 시 개인 정보 침해 문제
증강 현실 안경을 만들기 위해서는 사용자의 시각을 지속적으로 기록하고 정보를 덧씌우는 카메라가 필요하다. 현재로서는 실시간 처리를 위해 강력하면서도 전력 소모가 적은 칩이 안경의 줄기 부분에 들어갈 수 없으며, 데이터는 클라우드로 전송해야 한다. 이러한 기술적 요구는 개인의 프라이버시 침해를 초래할 수 있으며, 사회적 차원에서 이러한 제품 개발을 중단해야 한다는 주장이 제기되고 있다.
Apple, OpenAI에 비밀정보 유출 혐의 소송 제기
Apple은 OpenAI와 일부 직원들을 상대로 비밀 정보를 OpenAI로 가져오도록 유도했다고 주장하며 소송을 제기했다. Apple의 주장에 따르면, 전 직원 Chang Liu가 Apple의 공유 네트워크 폴더에 접근하기 위해 인증 버그를 악용했다고 한다. OpenAI는 Apple의 비밀 정보에 관심이 없다고 밝혔다. OpenAI는 Apple의 전 산업 디자인 책임자 Jony Ive를 고용해 새로운 하드웨어 제품을 개발 중이다.
Apple, OpenAI를 상대로 하드웨어 비밀 절도 혐의로 소송
Apple이 OpenAI를 상대로 하드웨어 계획을 진전시키기 위해 Apple의 비밀을 훔쳤다고 주장하며 소송을 제기했다. Apple은 OpenAI 직원들이 Apple에서 근무하던 시절부터 비밀을 훔친 패턴을 발견했다고 밝혔다. 이번 소송에는 OpenAI가 2025년에 인수한 Jony Ive의 하드웨어 스타트업 IO Products와 OpenAI의 최고 하드웨어 책임자인 Tang Tan, Apple에서 1월에 OpenAI로 이직한 Chang Liu도 포함되어 있다.
카타르, 파키스탄 등 중재자들, 미국-이란 핵 협상 재개 노력
카타르, 파키스탄 등 중재자들이 미국과 이란 간의 긴장을 완화하고 핵 협상 재개를 위해 노력하고 있다. 도널드 트럼프 대통령은 미국-이란 양해각서(MOU)가 종료되었다고 발표했으나, 여전히 전면전 회피를 원하고 있다. 중재자들은 최근의 이란 공격이 MOU에 반대하는 내부 세력에 의해 촉발되었다고 보고 있으며, 양측의 기술팀 간의 추가 협상 일정을 설정하기 위한 외교적 노력을 진행 중이다.
Cloudflare의 아키텍처와 사이버 프론티어 모델의 영향
Cloudflare는 Project Glasswing을 통해 사이버 프론티어 모델이 코드의 취약점을 찾고 공격 경로를 생성하는 속도를 높인다고 밝혔다. 이러한 모델은 대규모 공개 코드에서 취약점을 쉽게 검색할 수 있게 하며, 공격자는 수천 가지 변형의 익스플로잇을 생성할 수 있다. 그러나 보안 팀은 모든 취약점을 찾아야 하며, AI가 코드 수정의 복잡성을 줄이지는 않는다.
a16z의 국제 전략과 기술의 경제적 역할
Ben Horowitz가 Anne Neuberger, Raghu Raghuram, Jen Kha와 함께 a16z의 국제 전략과 기술이 경제 성장, 국가 안보, 글로벌 파트너십에서 차지하는 역할에 대해 논의했다. 이들은 미국의 기술 리더십이 실리콘밸리를 넘어 중요한 이유, AI가 정부와 민간 부문 간의 관계를 어떻게 변화시키고 있는지, 각국이 혁신 생태계를 강화하면서 최첨단 기술을 채택하려는 이유를 탐구했다. 또한 AI 인프라, 사이버 보안, 방위 기술, 스타트업 확장, 지속 가능한 기술 생태계 구축에 필요한 요소를 논의했다.
Chris Landau, 마리아 코리나 마차도 귀국 지원 의혹으로 논란
트럼프 행정부는 마리아 코리나 마차도가 베네수엘라에 귀국하는 것을 지원하지 않는다는 공식 입장을 가지고 있다. 그러나 크리스 랜다우 부장관은 두 차례에 걸쳐 마차도에 대한 미국 정책을 잘못 전달한 것으로 의심받고 있다. 이로 인해 국무부 내에서 논란이 일어났고, 마차도의 지지자들과의 긴장이 고조되었다. 마차도는 6월 24일 베네수엘라에서 발생한 지진 이후 구호 활동을 위해 귀국하고자 했으나, 행정부 관계자들은 그녀의 여행 계획을 방해했다. 랜다우는 네덜란드 대사와의 대화에서 마차도의 여행을 지지하는 발언을 했으나, 이후 미국 정부는 그녀의 여행을 지원하지 않겠다고 밝혔다. 결국 마차도는 비행 중에 여행 허가가 취소되어 돌아가야 했다.
Anthropic, Claude Code 사용자 추적기 제거
Anthropic은 보안 연구자가 Claude Code에서 비밀리에 사용자 정보를 모니터링하는 코드를 발견한 후, 해당 추적기를 신속히 제거했다. 연구자는 Claude Code에서 '프롬프트 스테가노그래피'를 사용해 중국 사용자들을 추적하는 코드를 숨기고 있었음을 밝혀냈다. 이 코드는 악성은 아니지만, 사용자들의 시간대, 프록시 및 Anthropic이 증류 공격을 주장하는 중국 AI 연구소와의 연결 가능성을 조용히 표시하는 정보를 전송하고 있었다. Anthropic 엔지니어 Thariq Shihipar는 이 추적기가 3월에 '실험'으로 추가되었으며, 계정 남용 방지 및 증류 공격 방지를 위한 것이라고 설명했다.
OpenAI CEO 샘 올트먼, 미국 정부에 5% 지분 제안
OpenAI CEO 샘 올트먼이 미국 정부에 OpenAI의 5% 지분을 제공하는 방안을 논의 중이다. 이 계획은 2021년에 제안된 더 급진적인 버전에서 비롯된 것으로, 올트먼은 특정 가치 이상의 모든 기업이 매년 시장 가치의 2.5%를 기부하는 방안을 제안한 바 있다. OpenAI는 최근 8520억 달러로 평가되었으며, 5% 지분은 약 426억 달러에 해당한다. 이를 1억 3300만 가구에 나누면 각 가구당 약 320달러가 될 수 있다.
2026년 5월 GitHub Advisory Database, 역사상 최대의 취약점 보고서 발표
2026년 5월 GitHub Advisory Database는 1,560개의 검토된 권고사항을 발표했으며, 이는 월 평균의 5배가 넘는 수치로 역사상 가장 높은 기록이다. 이로 인해 새로운 권고사항의 검토 시간이 길어졌고, 취약점의 양과 복잡성이 증가했다. 2026년에는 30,000개 이상의 CVE가 발표되었고, 1.7백만 개 이상의 저장소가 개인 취약점 보고를 활성화했다. 그러나 이러한 증가로 인해 내부 목표를 일관되게 달성하지 못하고 있으며, 처리 시간이 길어져 노출 기간이 늘어날 수 있다.
Fable 복원 및 Anthropic의 정부 협력
Fable이 복원되었으며, Anthropic은 미국 정부와 협력하여 모델의 안전성을 강화하고 있다. 6월 12일, 미국 정부는 Anthropic에게 Fable을 자진 철수하라고 요구했으나, Anthropic은 이를 거부했다. 이후 Anthropic은 99% 이상의 경우에서 Amazon의 코드 수정 요청을 거부하도록 분류기를 확장했다. 6월 26일과 30일에 정부는 Mythos와 Fable에 대한 수출 통제를 해제했다. Anthropic은 향후 모델 출시와 관련하여 미국 정부와 계속 협력할 예정이다.
AI 브라우저의 위험성: 새로운 공격 방식
AI 브라우저 제작자들은 사용자가 단일 프롬프트로 레스토랑을 찾고, 테이블을 예약하며, 동료에게 점심 초대를 하고 이메일로 확인할 수 있다고 주장하지만, 이와 관련된 위험에 대해서는 언급을 꺼린다. 최근 연구는 웹사이트가 AI 브라우저를 잘못된 현실로 유도할 수 있는 방법을 보여주며, 이로 인해 공격자는 비공식 저장소에서 코드를 추출하거나 내장된 비밀번호 관리자에서 자격 증명을 추출하는 등의 파괴적인 행동을 할 수 있다.
Godot, AI 기여 금지 정책 발표
Godot 팀은 AI로 생성된 기여를 금지하는 새로운 정책을 발표했다. 이들은 AI 기여가 코드 이해 부족으로 인한 문제를 일으키고 있으며, 새로운 기여자는 유지 관리자의 명시적 허가를 받아야 한다고 밝혔다. AI 코드 기여는 자동으로 금지되며, AI는 코드 완성이나 정규 표현식과 같은 단순 작업에만 사용해야 한다. 기여 토론은 인간 간의 소통으로 제한된다.