AI 추론이 남기는 스토리지 비용: AI 영상 8초 클립이 만드는 500MB 백엔드 데이터

AI’s hidden storage bill: What inference leaves behind

AI 추론은 요청마다 로그, 캐시 컨텍스트, 백업 등 데이터를 남기며 스토리지 비용을 계속 키운다. WD 내부 측정에 따르면 사용자에게 전달된 3.97MB 720p 8초 영상 하나가 백엔드에 500MB 이상의 연관 데이터를 남겨 출력 파일 대비 약 130배에 달했다. 기사에 따르면 학습은 시작과 끝이 있는 프로젝트지만 추론은 프롬프트에 답할 때마다 지속적으로 실행되어 데이터 발자국이 함께 늘어난다. McKinsey는 AI 추론 수요가 2030년까지 연 35% 성장해 학습(22%)을 앞지르고 데이터센터 수요의 40% 이상을 차지할 것으로 전망했다. WD가 후원하고 IDC가 763명의 IT·비즈니스 의사결정자를 대상으로 진행한 백서에서는 응답자의 약 95%가 생성형 AI로 지난 12개월간 데이터량이 늘었다고 답했고, 약 61%는 25% 이상 증가했다고 답했다. 기사는 보관 데이터가 컴퓨팅 수요가 줄어도 줄지 않으며, 아카이브가 RAG·추론의 입력으로 재사용되면서 빠른 검색 성능이 필요해진다고 짚는다. 응답자의 96%가 추론이나 RAG를 위해 더 빠른 아카이브 검색이 필요할 것으로 예상했다. 기사는 대용량 보관 계층에 HDD가 테라바이트당 비용 우위를 가진 기반이 된다고 설명하고, AI 인프라 예산을 컴퓨팅 중심으로만 잡으면 스토리지 병목이 운영비와 검색 지연으로 뒤늦게 드러난다고 경고한다.