Glean, 모델 라우팅을 통한 AI 비용 절감 및 효율성 향상
Frontier Model Cost and Open-Weights Popularity is Driving Demand for Model Routing
Glean은 기업에서 AI 모델을 선택하는 세 가지 방법을 제공하며, 자동 모드가 경제적 이유로 고객에게 선호된다. Glean의 공동 창립자 Tony Gentilcore는 Glean이 Claude Code보다 4배 더 비용 효율적이라고 주장하며, 평균 작업당 비용이 $0.45인 반면 Claude Cowork는 $1.84라고 밝혔다. Glean은 Waldo라는 모델을 통해 사용자 쿼리를 필터링하고, 고급 모델을 필요할 때만 사용하도록 하여 지연 시간을 50% 줄이고 토큰 사용량을 25% 감소시킨다.
Glean은 자동 모드를 통해 비용을 절감하고, Waldo 모델을 통해 효율성을 높이며, 기업의 AI 도입을 최적화한다.
원문 출처
Latent Space (swyx & Alessio)