Category
보안·규제·저작권
프롬프트 인젝션, 데이터 유출, 개인정보·저작권, AI 규제까지 LLM 서비스가 떠안는 위험 영역이다. 모델에 들어가고 나오는 데이터가 곧 공격면이자 컴플라이언스 대상이다. 한국은 개인정보보호법과 생성물 저작권 판단이 빠르게 정리되는 중이라 설계 단계부터 따져야 한다.
미국 42개 주에서 AI 데이터센터 반대 시위 발생
미국 전역에서 AI 데이터센터 건설에 반대하는 첫 전국 규모의 동시 시위가 열렸다. 18일(현지시간) 42개 주에서 총 142건의 AI 데이터센터 반대 집회가 열렸으며, 이는 보수 성향 시민단체 휴먼스 퍼스트가 주도한 행동이다. 시위 참가자들은 AI 인프라 구축이 지역 사회의 물과 전력, 환경을 위협하고 주민 의견을 충분히 반영하지 않고 있다는 불만을 표출했다.
Apple, OpenAI를 상대로 소송 제기
Apple이 OpenAI를 상대로 소송을 제기했다. 이 소송은 전문가들에 의해 많은 주장들이 일반적인 관행에 불과하다는 의견이 제기되고 있다. Apple은 새로운 Siri AI 소프트웨어의 공개 베타를 출시하는 시점에 OpenAI와의 공개적인 갈등을 선택한 이유에 대해 논의되고 있다.
Apple, OpenAI에 대한 영업비밀 소송 제기
Apple은 OpenAI에 대해 영업비밀 소송을 제기했다. 이 소송은 OpenAI의 최고 하드웨어 책임자까지 포함된 일련의 위법 행위를 주장하며, OpenAI에는 400명 이상의 전 Apple 직원이 근무하고 있다고 한다. OpenAI는 현재 IPO를 계획하고 있는 상황에서 이 소송에 대한 신중한 대응을 하고 있다.
Mamdani 시장, 집주인이 AI 이미지를 사용해 광고할 수 없다고 발표
Mamdani 시장은 집주인들이 AI 이미지를 사용하여 부동산을 광고하는 것을 비밀리에 할 수 없다고 밝혔다. 이와 관련된 논의는 Hacker News에서 이루어졌으며, 해당 기사에는 28개의 댓글이 달렸다.
AI 기업들이 청소년 보호를 위한 조치 시행
OpenAI는 청소년들이 AI에 접근할 수 있도록 안전장치를 마련해야 한다고 주장하며, 부모가 설정한 시간 제한과 휴식 알림 기능을 제안했다. Anthropic은 사용자가 18세 이상임을 확인하기 위해 생년월일을 입력해야 하는 정책을 시행하고 있다. Meta는 자사의 챗봇과 대화 중 자해 언급이 있을 경우 부모에게 알리겠다고 발표했다. 주요 AI 기업들은 사용자의 쿼리를 기반으로 연령을 예측하는 머신러닝을 활용하여 추가 검증이 필요한 계정을 표시하고 있다. 그러나 청소년 안전은 제품 업데이트 이상의 지원이 필요하다고 강조되었다.
미국 법원에서 AI 사용에 대한 판사들의 우려와 대응
미국의 판사들은 법정에 들어오는 변호사와 소송 당사자들에게 AI 사용에 대한 지침을 설정하고 있으며, AI를 잘못 사용한 변호사들에게 제재를 가하고 있다. Northwestern 연구진의 조사에 따르면 112명의 판사 중 60%가 최소한 하나의 AI 도구를 사용하고 있으며, 22%는 매주 또는 매일 AI 도구를 사용하고 있다. 그러나 판사들은 AI의 신뢰성에 대해 의구심을 가지고 있으며, AI가 생성한 허위 사례를 인용한 변호사들에게 제재가 가해진 사례도 있다. 이를 해결하기 위해 Judicial AI Consortium (JAIC)이 설립되었고, 교육이 필요하다는 의견이 제기되었다.
EU, 구글에 검색 데이터 공유 및 안드로이드 AI 상호운용성 강화 요구
EU는 구글이 경쟁사와 검색 데이터를 공유하고, 안드로이드에서 Gemini 외의 AI 봇과의 상호운용성을 강화하도록 요구하고 있다. 유럽연합 집행위원회는 구글이 타사 AI 제공자에게 안드로이드 기기에 대한 광범위한 접근을 허용해야 한다고 발표했다. 또한, 구글은 검색 서비스를 최적화하기 위해 수집한 데이터를 익명화하여 다른 검색 엔진과 AI 챗봇에 제공해야 한다고 밝혔다.
EU, 구글에 검색 데이터 공유 및 AI 플랫폼 개방 강제
유럽연합은 디지털 시장법(DMA)에 따라 구글이 안드로이드와 검색 분야에서 상호 운용성과 경쟁을 지원하도록 강제하는 새로운 조치를 발표했다. 이로 인해 구글은 경쟁 AI 플랫폼에 대한 접근을 개방해야 하며, 현재 구글의 Gemini가 시스템에 우선 접근하고 있다. Gemini는 모든 구글 인증 안드로이드 폰에 사전 탑재되어 있으며, '헤이 구글'이라는 핫워드에 반응하여 작동한다.
기상 데이터 조작 위험 증가
항공사, 전력망 운영자, 농부들은 기상 예보를 바탕으로 중요한 결정을 내린다. 최근 파리 샤를 드골 공항의 기상 관측소에서 온도 조작 사건이 발생했으며, 이는 예측 시장에서 큰 손실을 초래할 수 있는 위험을 나타낸다. AI 기반의 기상 예측이 증가하면서 데이터의 정확성이 더욱 중요해지고 있으며, 조작의 가능성이 커지고 있다. 예를 들어, ECMWF는 원시 관측 데이터로부터 직접 고품질 기상 예보를 생성하는 방법을 연구하고 있다.
샌프란시스코, 애플과 구글에 누디피케이션 앱 삭제 요구
샌프란시스코의 검찰총장 데이비드 치우는 애플과 구글에 13개의 누디피케이션 앱을 앱 스토어에서 제거하라는 중단 명령서를 보냈다. 누디피케이션 앱은 일반 사진을 쉽게 노골적인 이미지로 변환할 수 있게 해주며, 악용될 경우 의복을 제거하거나 인물의 특징을 변경하고, 성적 포즈로 배치하거나 피해자의 얼굴을 다른 사람의 나체에 합성하는 등의 기능을 제공한다. 치우는 이러한 앱들이 '딥페이크 포르노그래피 생성을 금지하는 캘리포니아 법률'을 위반하고 있다고 경고했다.
인도네시아의 디지털 감시 시스템을 통한 어업 단속 변화
인도네시아의 해양 및 어업 자원 감시소에서는 위성 신호를 통해 어선의 위치를 기록하고, 이를 어업 허가증, 지정 어획 구역, 선박 특성 및 역사적 이동 패턴과 자동으로 비교하여 잠재적인 위반을 식별한다. 2026년까지 9,394척의 인도네시아 어선이 국가 선박 모니터링 시스템(VMS)을 통해 신호를 송신하고 있으며, 이는 2021-2025년 동안 2,880척 증가한 수치이다. 디지털 모니터링을 통해 규제 당국은 선박의 움직임을 재구성하고, 의심스러운 행동 패턴을 식별하며, 불법 어업 활동을 탐지할 수 있다.
David Sacks가 말하는 AI와 미국 기술 미래
David Sacks는 Marc Andreessen, Ben Horowitz, Erik Torenberg과 함께 AI, 암호화폐, 규제, 미국의 경쟁력에 대해 논의했다. 이 대화에서는 트럼프 행정부의 AI 및 암호화폐 정책, 오픈 소스 AI, 수출 통제, 에너지 및 인프라, 중국과의 글로벌 경쟁, 혁신을 형성하는 규제의 역할에 대해 다뤘다. 또한 스테이블코인, AI 개발의 미래, 허가 없는 혁신에 대해 이야기하며, 미국의 장기적인 이점은 빌더를 지원하는 데 달려 있다고 강조했다.
메타, AI 도구로 8,000명 해고 결정
메타가 8,000명의 직원을 해고하는 과정에서 AI 도구를 사용했다는 주장이 제기됐다. 캘리포니아 북부 지방법원에 제출된 소송에 따르면, 메타는 'Metamate'라는 시스템과 직원 훈련을 받은 '두 번째 두뇌' 에이전트, 키 입력 및 활동 모니터링 데이터 등을 활용해 해고 대상을 선정했다. 직원들은 메타의 AI 도구 사용량에 따라 평가받았으며, 내부 대시보드는 직원들을 'AI Native', 'AI First', 'AI Enabled' 등의 카테고리로 분류했다.
Dave Kuszmar, LLM 안전성 취약점 발견 및 개선 촉구
연구자 Dave Kuszmar는 여러 시스템적 취약점을 발견하여 LLM 안전성을 우회하고 위험한 지침을 얻을 수 있음을 밝혔다. 이 취약점은 주요 LLM 전반에 걸쳐 작동하며, 산업 전반의 보안 문제를 드러낸다. Kuszmar는 LLM을 사회에 통합하기 전에 배포 속도를 늦추고 투명성을 높이며 대규모 연구를 촉구하고 있다.
Apple, OpenAI를 상대로 전 직원의 기밀 정보 유출 소송 제기
Apple은 OpenAI에 대해 전 직원이 Apple 서버의 기밀 정보에 접근할 수 있도록 한 '희귀한' 버그를 발견한 후 소송을 제기했다. Apple은 OpenAI가 전 Apple 직원들과 공모하여 불법적으로 AI 기기를 출시하려 했다고 주장하며 여러 금지 명령을 요청했다. 이 사건은 Apple의 현재 직원인 Yu-Ting 'Alyssa' Peng과 전 직원 Chang Liu 간의 내부 메시지를 조사하는 과정에서 발생했다.
방어자들이 프롬프트 인젝션을 활용하다
프롬프트 인젝션은 공격자가 대형 언어 모델을 조종하기 위해 콘텐츠에 삽입하는 악의적인 명령이다. Tracebit의 연구자들은 Amazon Web Services에 저장된 비밀번호, 암호화 키와 같은 비밀 정보와 함께 프롬프트 인젝션을 배치하는 것이 AI 해킹 공격을 차단하는 데 효과적이라는 것을 발견했다. 이러한 프롬프트는 공격하는 LLM이 금지된 행동을 수행하도록 유도하며, LLM은 이에 따라 작동을 중단한다.
아이비리그 학생들, AI를 이용한 시험 부정행위 증가
브라운 대학교에서 학생들이 AI를 이용해 부정행위를 저지르고 있다는 새로운 스캔들이 발생했다. 프린스턴 대학교의 최근 조사에 따르면, 29.9%의 학생이 최소한 한 번 이상 AI를 사용해 시험이나 과제를 부정행위했다고 인정했다. 이는 학생들이 실제 학습 대신 AI를 통해 쉽게 시간을 벌려는 경향을 보여준다.
애플, OpenAI를 상대로 한 소송에서 기밀 문서 도용 주장
애플은 OpenAI가 기밀 문서를 도용하고 하드웨어 프로토타입을 염탐했으며, 신뢰하는 파트너를 속여 독점 제품 디자인 기법을 수행하게 했다고 주장하는 소송을 제기했다. 이 소송은 애플의 부사장 출신인 탕 탄과 관련된 세 사람의 행동을 중심으로 진행되고 있다. 탕 탄은 2024년에 애플을 떠나 OpenAI로 이직했다.
오픈 모델에 대한 규제 논의와 향후 6개월 전망
현재 오픈 소스 AI의 실현 가능성에 대한 가장 심각한 테스트가 진행 중이다. 백악관에서는 오픈 모델을 관리하기 위한 새로운 행정명령에 대한 논의가 이루어지고 있으며, 이는 중국산 모델과 정부 사용에만 영향을 미칠 것으로 보인다. 오픈 모델은 GPT 5.5, Claude Opus 4.8, GLM-5.2 이상의 능력을 가진 모델에 대해 금지되거나 무기한 연기될 가능성이 높다. 이러한 규제는 주로 중국 모델에 대한 정치적 캠페인과 관련이 있으며, Anthropic이 주도하고 있다.
Grok으로 생성된 7,000개의 아동 성적 이미지 사건
제기된 집단소송에서 Grok으로 생성된 아동 성적 이미지 사건이 언급되었다. 한 남성이 Grok을 사용해 11세 의붓딸의 사진으로 7,000개의 성적 이미지를 생성한 후 자살한 사건이 포함되어 있다. 소송에 따르면, Grok은 남성이 근친상간과 강간을 묘사한 극단적인 이미지를 생성하는 것을 허용했으며, xAI의 아동 안전 시스템은 남성이 '강간'이라는 프롬프트를 입력한 후에만 개입했다.
AI 데이터 센터 건설에 대한 반대 운동 시작
2015년 애플은 아일랜드 아테니에서 약 10억 달러 규모의 데이터 센터 건설 계획을 발표했다. 이 데이터 센터는 유럽 내 애플 서비스인 iTunes, iMessage, Siri를 지원하기 위해 500에이커의 부지를 사용할 예정이다. 최근 AI의 발전이 지역 전력망에 위협을 가하면서, 데이터 센터 건설에 대한 반대 운동이 커지고 있다.
트럼프 행정부, 중국산 오픈소스 AI 모델 규제 검토
미국 트럼프 행정부가 중국산 오픈소스 AI 모델의 성장에 대응하기 위한 정책 검토에 착수했다. 초기 논의 단계로, 중국 기업이 개발한 오픈소스 AI 모델의 정부 사용 제한을 위한 행정명령 가능성이 거론되고 있다. 보안 위험을 초래할 수 있는 오픈소스 AI 규제 방안에 대해 논의 중이다.
증강 현실 안경 제작 시 개인 정보 침해 문제
증강 현실 안경을 만들기 위해서는 사용자의 시각을 지속적으로 기록하고 정보를 덧씌우는 카메라가 필요하다. 현재로서는 실시간 처리를 위해 강력하면서도 전력 소모가 적은 칩이 안경의 줄기 부분에 들어갈 수 없으며, 데이터는 클라우드로 전송해야 한다. 이러한 기술적 요구는 개인의 프라이버시 침해를 초래할 수 있으며, 사회적 차원에서 이러한 제품 개발을 중단해야 한다는 주장이 제기되고 있다.
Apple, OpenAI에 비밀정보 유출 혐의 소송 제기
Apple은 OpenAI와 일부 직원들을 상대로 비밀 정보를 OpenAI로 가져오도록 유도했다고 주장하며 소송을 제기했다. Apple의 주장에 따르면, 전 직원 Chang Liu가 Apple의 공유 네트워크 폴더에 접근하기 위해 인증 버그를 악용했다고 한다. OpenAI는 Apple의 비밀 정보에 관심이 없다고 밝혔다. OpenAI는 Apple의 전 산업 디자인 책임자 Jony Ive를 고용해 새로운 하드웨어 제품을 개발 중이다.