Category
보안·규제·저작권
프롬프트 인젝션, 데이터 유출, 개인정보·저작권, AI 규제까지 LLM 서비스가 떠안는 위험 영역이다. 모델에 들어가고 나오는 데이터가 곧 공격면이자 컴플라이언스 대상이다. 한국은 개인정보보호법과 생성물 저작권 판단이 빠르게 정리되는 중이라 설계 단계부터 따져야 한다.
Apple, OpenAI를 상대로 하드웨어 비밀 절도 혐의로 소송
Apple이 OpenAI를 상대로 하드웨어 계획을 진전시키기 위해 Apple의 비밀을 훔쳤다고 주장하며 소송을 제기했다. Apple은 OpenAI 직원들이 Apple에서 근무하던 시절부터 비밀을 훔친 패턴을 발견했다고 밝혔다. 이번 소송에는 OpenAI가 2025년에 인수한 Jony Ive의 하드웨어 스타트업 IO Products와 OpenAI의 최고 하드웨어 책임자인 Tang Tan, Apple에서 1월에 OpenAI로 이직한 Chang Liu도 포함되어 있다.
카타르, 파키스탄 등 중재자들, 미국-이란 핵 협상 재개 노력
카타르, 파키스탄 등 중재자들이 미국과 이란 간의 긴장을 완화하고 핵 협상 재개를 위해 노력하고 있다. 도널드 트럼프 대통령은 미국-이란 양해각서(MOU)가 종료되었다고 발표했으나, 여전히 전면전 회피를 원하고 있다. 중재자들은 최근의 이란 공격이 MOU에 반대하는 내부 세력에 의해 촉발되었다고 보고 있으며, 양측의 기술팀 간의 추가 협상 일정을 설정하기 위한 외교적 노력을 진행 중이다.
Cloudflare의 아키텍처와 사이버 프론티어 모델의 영향
Cloudflare는 Project Glasswing을 통해 사이버 프론티어 모델이 코드의 취약점을 찾고 공격 경로를 생성하는 속도를 높인다고 밝혔다. 이러한 모델은 대규모 공개 코드에서 취약점을 쉽게 검색할 수 있게 하며, 공격자는 수천 가지 변형의 익스플로잇을 생성할 수 있다. 그러나 보안 팀은 모든 취약점을 찾아야 하며, AI가 코드 수정의 복잡성을 줄이지는 않는다.
a16z의 국제 전략과 기술의 경제적 역할
Ben Horowitz가 Anne Neuberger, Raghu Raghuram, Jen Kha와 함께 a16z의 국제 전략과 기술이 경제 성장, 국가 안보, 글로벌 파트너십에서 차지하는 역할에 대해 논의했다. 이들은 미국의 기술 리더십이 실리콘밸리를 넘어 중요한 이유, AI가 정부와 민간 부문 간의 관계를 어떻게 변화시키고 있는지, 각국이 혁신 생태계를 강화하면서 최첨단 기술을 채택하려는 이유를 탐구했다. 또한 AI 인프라, 사이버 보안, 방위 기술, 스타트업 확장, 지속 가능한 기술 생태계 구축에 필요한 요소를 논의했다.
Chris Landau, 마리아 코리나 마차도 귀국 지원 의혹으로 논란
트럼프 행정부는 마리아 코리나 마차도가 베네수엘라에 귀국하는 것을 지원하지 않는다는 공식 입장을 가지고 있다. 그러나 크리스 랜다우 부장관은 두 차례에 걸쳐 마차도에 대한 미국 정책을 잘못 전달한 것으로 의심받고 있다. 이로 인해 국무부 내에서 논란이 일어났고, 마차도의 지지자들과의 긴장이 고조되었다. 마차도는 6월 24일 베네수엘라에서 발생한 지진 이후 구호 활동을 위해 귀국하고자 했으나, 행정부 관계자들은 그녀의 여행 계획을 방해했다. 랜다우는 네덜란드 대사와의 대화에서 마차도의 여행을 지지하는 발언을 했으나, 이후 미국 정부는 그녀의 여행을 지원하지 않겠다고 밝혔다. 결국 마차도는 비행 중에 여행 허가가 취소되어 돌아가야 했다.
Anthropic, Claude Code 사용자 추적기 제거
Anthropic은 보안 연구자가 Claude Code에서 비밀리에 사용자 정보를 모니터링하는 코드를 발견한 후, 해당 추적기를 신속히 제거했다. 연구자는 Claude Code에서 '프롬프트 스테가노그래피'를 사용해 중국 사용자들을 추적하는 코드를 숨기고 있었음을 밝혀냈다. 이 코드는 악성은 아니지만, 사용자들의 시간대, 프록시 및 Anthropic이 증류 공격을 주장하는 중국 AI 연구소와의 연결 가능성을 조용히 표시하는 정보를 전송하고 있었다. Anthropic 엔지니어 Thariq Shihipar는 이 추적기가 3월에 '실험'으로 추가되었으며, 계정 남용 방지 및 증류 공격 방지를 위한 것이라고 설명했다.
OpenAI CEO 샘 올트먼, 미국 정부에 5% 지분 제안
OpenAI CEO 샘 올트먼이 미국 정부에 OpenAI의 5% 지분을 제공하는 방안을 논의 중이다. 이 계획은 2021년에 제안된 더 급진적인 버전에서 비롯된 것으로, 올트먼은 특정 가치 이상의 모든 기업이 매년 시장 가치의 2.5%를 기부하는 방안을 제안한 바 있다. OpenAI는 최근 8520억 달러로 평가되었으며, 5% 지분은 약 426억 달러에 해당한다. 이를 1억 3300만 가구에 나누면 각 가구당 약 320달러가 될 수 있다.
2026년 5월 GitHub Advisory Database, 역사상 최대의 취약점 보고서 발표
2026년 5월 GitHub Advisory Database는 1,560개의 검토된 권고사항을 발표했으며, 이는 월 평균의 5배가 넘는 수치로 역사상 가장 높은 기록이다. 이로 인해 새로운 권고사항의 검토 시간이 길어졌고, 취약점의 양과 복잡성이 증가했다. 2026년에는 30,000개 이상의 CVE가 발표되었고, 1.7백만 개 이상의 저장소가 개인 취약점 보고를 활성화했다. 그러나 이러한 증가로 인해 내부 목표를 일관되게 달성하지 못하고 있으며, 처리 시간이 길어져 노출 기간이 늘어날 수 있다.
Fable 복원 및 Anthropic의 정부 협력
Fable이 복원되었으며, Anthropic은 미국 정부와 협력하여 모델의 안전성을 강화하고 있다. 6월 12일, 미국 정부는 Anthropic에게 Fable을 자진 철수하라고 요구했으나, Anthropic은 이를 거부했다. 이후 Anthropic은 99% 이상의 경우에서 Amazon의 코드 수정 요청을 거부하도록 분류기를 확장했다. 6월 26일과 30일에 정부는 Mythos와 Fable에 대한 수출 통제를 해제했다. Anthropic은 향후 모델 출시와 관련하여 미국 정부와 계속 협력할 예정이다.
AI 브라우저의 위험성: 새로운 공격 방식
AI 브라우저 제작자들은 사용자가 단일 프롬프트로 레스토랑을 찾고, 테이블을 예약하며, 동료에게 점심 초대를 하고 이메일로 확인할 수 있다고 주장하지만, 이와 관련된 위험에 대해서는 언급을 꺼린다. 최근 연구는 웹사이트가 AI 브라우저를 잘못된 현실로 유도할 수 있는 방법을 보여주며, 이로 인해 공격자는 비공식 저장소에서 코드를 추출하거나 내장된 비밀번호 관리자에서 자격 증명을 추출하는 등의 파괴적인 행동을 할 수 있다.
Godot, AI 기여 금지 정책 발표
Godot 팀은 AI로 생성된 기여를 금지하는 새로운 정책을 발표했다. 이들은 AI 기여가 코드 이해 부족으로 인한 문제를 일으키고 있으며, 새로운 기여자는 유지 관리자의 명시적 허가를 받아야 한다고 밝혔다. AI 코드 기여는 자동으로 금지되며, AI는 코드 완성이나 정규 표현식과 같은 단순 작업에만 사용해야 한다. 기여 토론은 인간 간의 소통으로 제한된다.
Midjourney, 할리우드 스튜디오의 AI 사용 세부사항 공개 요구
Midjourney는 현재 진행 중인 법적 분쟁의 일환으로 세 개의 할리우드 스튜디오에 대해 그들이 AI를 어떻게 사용하는지 공개할 것을 요구하고 있다.
GitHub에서 유지보수가 필요한 6가지 보안 설정
GitHub Security Lab은 유지보수자들에게 6가지 보안 설정을 권장한다. 1. SECURITY.md 파일 추가: 버그 신고를 위한 연락처를 제공한다. 2. 비공식 취약점 보고 활성화: 연구자가 비공식적으로 보고할 수 있는 공간을 제공한다. 3. 비밀 스캐닝 및 푸시 보호 활성화: 비밀 정보가 리포지토리에 푸시되기 전에 차단한다. 4. Dependabot 및 의존성 검토 활성화: 의존하는 패키지의 취약점을 알린다. 5. 코드 스캐닝 활성화: 정적 분석을 통해 코드의 버그 패턴을 플래그한다. 6. 기본 브랜치 보호 활성화: 병합 전에 최소한의 승인을 요구하여 보안을 강화한다.
GitHub의 비밀 스캐닝을 통한 경고 제로 달성 과정
GitHub Security는 비밀 관리 개선을 위해 비밀 스캐닝 기능을 도입하였고, 15,000개 이상의 저장소에서 20,000개 이상의 비밀을 발견하였다. 9개월 후, GitHub은 0개의 열린 경고를 달성하였다. 비밀은 코드 외에도 지원 티켓, 버그 바운티 보고서, 사고 노트 및 위키 페이지에서 발견되었으며, GitHub은 모든 기업과 조직에서 비밀 스캐닝과 푸시 보호를 활성화하여 새로운 비밀의 축적을 방지하였다. 경고는 저장소, 비밀 유형 및 연령별로 분류하여 처리하였고, 비활성 비밀은 대량으로 종료할 수 있었다.
GitHub의 오픈 소스 라이선스 준수 관리 방법
GitHub은 오픈 소스 프로젝트와 내부 애플리케이션에 새로운 의존성을 도입하며, 오픈 소스 라이선스를 준수하는 것이 중요하다고 강조한다. GitHub Advanced Security 고객을 위한 새로운 라이선스 준수 기능을 도입하여, 풀 리퀘스트에서 새로운 의존성을 직접 검토할 수 있도록 하였다. 이 기능은 기존의 내부 도구에서 이전되어, 라이선스 검토를 자동화하고 개발자들이 새로운 워크플로우에 적응할 수 있도록 돕는다. 라이선스 준수 검사는 규칙 세트를 통해 활성화되며, 의존성의 라이선스를 스캔하여 문제가 발생할 경우 알림을 제공한다.
AI 서비스 약관에 따른 제출물 소유권 문제
대부분의 AI 회사의 서비스 약관은 사용자가 제출한 모든 것이 그들의 소유가 된다고 명시하고 있으며, 이에 따라 두 건의 스타트업 아이디어가 AI 회사에 의해 도용된 사례가 있다고 전해졌다. 구체적인 회사 이름은 언급되지 않았다.
Claude Code 이슈 #74066: Enterprise ZDR 워크스페이스에서 세션 누출 문제
Enterprise ZDR 워크스페이스 사용자가 자신의 작업과 무관한 Minecraft temple 관련 응답이 세션에 섞였다고 신고했다. 이 문제는 워크스페이스 캐시 격리와 소비자 플랜 간의 누출 가능성을 제기하고 있다. 신고된 환경은 macOS(darwin)와 Apple_Terminal이다.
Amazon Bedrock을 통한 AI 기반 피싱 탐지 방법
Amazon Bedrock은 고성능의 기초 모델을 제공하는 관리형 서비스로, 이메일 피싱 탐지에 있어 기존의 표면적 필터링을 넘어서는 분석을 수행한다. 이 서비스는 대규모 데이터로 사전 훈련된 AI 모델을 사용하여 이메일 내용의 행동 패턴을 분석하고, 맥락적 관계를 이해하며, 피싱 시도를 나타내는 이상 징후를 식별한다. Amazon Bedrock은 이메일이 수신함에 도착하기 전에 인증, 행동 분석, 위험 점수 평가를 거치는 다단계 분석 파이프라인을 통해 작동한다. 또한, Amazon Bedrock Guardrails를 통해 조직의 책임 있는 AI 정책과 애플리케이션 요구 사항에 맞춰 상호작용을 조정할 수 있는 안전 장치를 제공한다.
소비자 플러그인 태양광 키트의 안전 위험
여러 산업 단체가 소비자 플러그인 태양광 키트에 대한 공공 안전 우려를 제기했다. 설치에 의문이 있을 경우 대처 방법에 대한 안내가 필요하다.
Stability AI의 연간 투명성 보고서 발표
Stability AI는 생성 AI의 책임 있는 개발과 배포를 위해 투명성을 강조하며, 안전 설계 원칙에 따라 모델 개발 및 출시 정보를 공유하는 연간 투명성 보고서를 발표했다. 이 보고서는 비디오, 이미지, 3D 및 오디오 모델을 포함하며, 2024년 4월부터 2025년 4월까지의 기간을 다룬다. Stability AI는 유해 콘텐츠 생성을 방지하기 위해 데이터셋 평가 및 위험 평가를 실시하고, 훈련 데이터에서 유해 콘텐츠를 제거하는 등의 조치를 취하고 있다. 또한, CSAM(아동 성 착취물) 관련 자료를 발견할 경우, 관련 기관에 보고하는 정책을 운영하고 있다.
Cloudflare, AI 트래픽 관리 옵션 업데이트
Cloudflare는 웹사이트 소유자에게 AI 트래픽을 관리할 수 있는 새로운 옵션을 제공한다. AI 봇 차단 기능과 Pay-Per-Crawl 마켓플레이스를 도입한 지 1년이 지났으며, 이제 웹사이트 소유자들은 검색, 에이전트, 훈련의 세 가지 AI 사용 사례를 관리할 수 있다. 각 사용 사례에 따라 웹사이트 소유자는 트래픽에 대한 보상을 기대할 수 있으며, 봇 운영자들은 다양한 목적을 가진 크롤러를 분리하여 투명성을 높여야 한다.
AI 데이터 센터 확장이 기후 목표에 미치는 영향
AI 데이터 센터의 확장이 기업과 입법자들에게 기후 약속을 재고하도록 강요하고 있다. 아마존의 탄소 배출량은 두 해 연속 증가했으며, 아마존의 최고 지속 가능성 책임자는 앞으로도 계속 증가할 것이라고 밝혔다. 구글, 메타 등도 최근 탄소 배출량이 증가했다. EU는 데이터 센터 건설을 용이하게 하기 위해 기후 규제를 완화하는 방안을 검토 중이며, 미국에 비해 AI 준비가 된 컴퓨팅 자원이 1/15에 불과해 AI의 경제적 중요성이 커짐에 따라 취약한 상황이다.
OpenAI, 미국 정부에 5% 지분 제공 고려
OpenAI는 미국 정부에 5% 지분을 제공하는 방안을 고려하고 있으며, 이는 트럼프 행정부와의 관계 개선 및 AI 산업에 대한 대중의 반발을 완화하는 데 기여할 수 있다. 정치 양측에서 AI 수익 재분배에 대한 논의가 진행 중이며, 버니 샌더스 상원의원은 AI 산업의 부분 국유화를 주장하고 있다. 백악관도 기업에 대한 지분 취득을 고려하고 있으며, Anthropic CEO 다리오 아모데이는 AI 기업에 세금을 부과해 보편적 기본소득을 제안한 바 있다.
미국과 이란, 호르무즈 해협 관련 협상 재개
미국과 이란 협상가들이 도하에서 호르무즈 해협을 중심으로 한 협상을 진행 중이다. 협상은 60일 이내에 포괄적인 핵 합의에 도달하는 것을 목표로 하고 있으나, 현재 초기 합의의 붕괴 가능성이 더 높아 보인다. 미국은 이란이 통행료보다 핵 합의로 더 큰 이익을 얻을 수 있다고 주장하고 있으며, 최근 일주일간의 긴장 완화에 대한 합의도 도출했다. 또한, 미국 측은 이란의 통행료 요구가 미국-이란 합의를 방해할 수 있다고 경고하고 있다.