오픈 모델 추론 시장 규모 추정: Fireworks 일일 토큰 4,000억 이상, Google 플랫폼 토큰량과 비교
How big is the open model economy today?
Interconnects의 Nathan Lambert가 오픈 모델 추론 시장의 규모를 Baseten, Fireworks, Together AI 등 오픈 모델 추론 스타트업의 공개 토큰량과 OpenRouter의 오픈 모델 토큰 비중으로 추정했다. 기사는 이 시장이 거의 지수적으로 성장하고 있으며 닫힌 모델 사업자와의 규모 차이를 가늠할 수 있다고 전한다. 기사는 오픈 모델 채택 지표가 플랫폼 지표, 스타트업의 마케팅 지표, 불완전한 공개 평가 등으로 부정확하다는 점을 전제로 한다. 이 가운데 추론 스타트업들의 공개 토큰 볼륨을 로그 스케일로 정리한 결과 근사 지수 성장을 보였고, GLM 5.2의 단계적 상승 이후 증가폭이 더 커졌다. Fireworks는 첫 기업 컨퍼런스에서 고객의 커스터마이즈 모델에 하루 40T(4조) 토큰 이상을 서빙한다고 밝혔으며, 이 수치는 해당 버티컬이 올해 여름 이후 2배 넘게 성장했다는 설명과 함께 제시됐다. 저자는 이 수치를 닫힌 모델이나 하이퍼스케일러와 비교하기 위해 Google이 실적 발표에서 공개하는 플랫폼 및 API 전체 토큰량을 같은 차트에 겹쳐 놓았다. 기사는 하이퍼스케일러(Amazon Bedrock, Azure 모델 가든)도 상당한 점유율을 가질 가능성이 있으나 모델 범주별 사용량은 공개되지 않아 추정에서 제외되었다고 밝힌다.
Fireworks가 하루 40T 토큰 이상을 고객 커스텀 모델에 서빙한다고 밝힌 만큼, 오픈 모델 추론 인프라 선택 시 서빙 규모와 사용량 추이를 Baseten, Together AI 등과 비교해 볼 근거가 된다.
원문 출처
Interconnects (Nathan Lambert)