AI 모델, 보안 패치 공개 후 사용자 업데이트 전에 Firefox 익스플로잇 구현
AI can turn public security fixes into working exploits before users receive an update
Epoch AI 연구진은 오픈 웨이트 모델 GLM 5.3이 Mozilla가 공개했지만 아직 배포되지 않은 보안 수정 내용만으로 Firefox 공격 코드를 자율적으로 만들 수 있었다고 밝혔다. 이 결과는 패치 공백(patch gap)이 공격자에게 실제 위험 창구가 되고 있음을 보여준다. 연구진은 Firefox 사용자가 악성 웹페이지를 방문하는 것만으로 브라우저 내 파일을 읽고 비밀번호나 인증 쿠키를 탈취할 수 있는 공격 체인을 GLM 5.3이 구성했다고 설명했다. 사용된 비용은 익스플로잇 구현 단계 기준 약 1,000달러의 컴퓨팅 비용이었고, 9월 17일에서 10월 26일 사이 출시된 Firefox 6개 버전 모두를 대상으로 성공했다. 가장 빠른 시도는 12시간이 걸렸으며 최대 허용 시간은 48시간이었다. 공격은 패치 공백 취약점과 공개되지 않은 별도 취약점을 연결하는 방식이었고, 해당 취약점은 Mozilla에 전달되어 10월 27일 Firefox 159.0에서 수정되었다. 연구진은 GLM 5.3 사용 과정에서 어떤 제공자의 안전장치나 거부 응답도 발동되지 않았다고 밝혔다. 같은 방식의 Google Chrome 공격은 성공하지 않았지만, 연구진은 이를 더 강력한 프롬프트나 더 뛰어난 오픈 웨이트 모델로도 실패한다는 증거로 보지 않는다고 적었다. Kimi K3.1 Pro의 가중치는 11월 초 공개될 예정이며 초기 벤치마크상 GLM 5.3보다 이런 작업에 강할 수 있다고 한다. 연구진은 Firefox와 Chrome이 이미 매주 업데이트를 배포하고 있지만 충분하지 않을 수 있다며, 보안 수정을 배포 준비가 끝날 때까지 비공개로 두고 베타에서 릴리스로 옮기는 주기를 줄이며 연결 가능한 여러 취약점을 한꺼번에 패치하지 않는 방안을 제시했다.
Firefox 6개 버전이 GLM 5.3의 약 1,000달러 규모 컴퓨팅 비용으로 공격당했으므로, 공개된 보안 수정 커밋을 기준으로 배포 전 취약점을 공격하는 비용 장벽이 낮아졌음을 의미한다.
원문 출처
Epoch AI — Benchmarking Hub