AI가 사이버보안을 뒤흔들다: Alex Stamos가 본 공격 자동화와 'dark age'
AI broke the cybersecurity world. What’s next?
The Verge의 Decoder 팝캐스트에서 Cognition의 최고보안책임자 Alex Stamos는 AI가 사이버보안 업계의 기존 질서를 무너뜨리고 있다고 진단했다. 그는 최근 몇 주간 AI 관련 기업들이 연쇄적으로 침해당했다고 설명했다. Stamos는 Fireworks 침해로 확보된 API 키가 Cursor 침해로 이어졌고, 이후 악성 플러그인이 약 5,000개 기업에 배포되어 잠재적 침해 5,000건이 발생했다고 설명했다. 그는 취약점 탐색과 익스플로잇 작성이 AI로 실시간 자동화되면서, 사이버 킬체인이 사전 연구 후 배치하는 방식에서 AI 시스템이 대상을 탐색하며 즉시 침투하는 구조로 뒤집혔다고 말했다. 기사에 따르면 중국의 오픈소스 도구 ARTEX가 예로 언급됐으며, 이를 조작된 GLM-5.3 같은 모델로 구동하면 다수 조직을 침투할 수 있다고 한다. 공격은 한국 은행 3곳에서 시작됐고 이후 약 200개 기업으로 번졌다. Stamos는 개인 공격자뿐 아니라 러시아, 북한 같은 국가 행위자도 AI로 취약점을 탐지하고 악용하고 있다고 지적했다. 그는 현재가 인터넷 초기처럼 개척 단계의 긴장감이 있으며, 적응이 끝나기 전까지 'dark age'가 이어질 수 있다고 보면서도 장기적으로 비관적이지는 않다고 밝혔다.
Fireworks에서 탈취된 API 키가 Cursor 침해와 5,000개 기업 대상 악성 플러그인 배포로 이어졌으므로, AI 서비스 제공업체의 API 키 관리와 개발도구 플러그인 검증을 점검할 필요가 있다.
원문 출처
The Verge — AI