OpenRouter의 자동 대체 처리 기능과 문제점
So you want to use OpenRouter?
OpenRouter는 요청에 대해 가장 비용 효율적인 옵션을 자동으로 선택하여 단일 API 엔드포인트로 모델을 호출할 수 있도록 한다. 그러나 다양한 제공업체가 서로 다른 최적화 및 설정을 사용하기 때문에 동일한 OpenRouter 엔드포인트가 서로 다른 방식으로 작동할 수 있다. 일부 제공업체는 비전 모델에 대한 비전 기능이 없으며, 추론 처리 방식도 다를 수 있다. 특정 제공업체로의 라우팅을 제어할 수 있는 'provider.only' 옵션이 있으며, '/endpoints' 메서드를 통해 특정 모델 ID에 대한 사용 가능한 제공업체 목록을 확인할 수 있다.
OpenRouter의 'provider.only' 옵션을 사용하면 특정 제공업체로의 라우팅을 제어할 수 있다.
원문 출처
Simon Willison's Weblog