GitHub Copilot 사용량 API에 BYOK 및 엔터프라이즈 커스텀 모델 사용량 추가
BYOK and enterprise custom models in the Copilot usage API
GitHub Copilot 사용량 메트릭 API가 이제 BYOK(Bring Your Own Key) 사용량을 Copilot 호스팅 모델 사용량과 분리해 보여준다. 개발자가 직접 설정한 로컬 BYOK와 관리자가 설정한 엔터프라이즈 커스텀 모델을 구분해 조직의 사용 정책 점검과 비용 파악이 가능해진다. 로컬 BYOK는 개발자가 클라이언트에서 직접 설정한 자체 제공자 키나 Ollama, Foundry Local, LM Studio, llama-server 같은 도구로 제공되는 로컬 모델을 포함한다. 이 요청은 Copilot CLI나 GitHub Copilot 앱에서 제공자 키 또는 로컬 모델로 직접 전달된다. 사용자 단위 필드 used_local_byok, 집계 필드 totals_by_local_byok, 활성 사용자 수 필드 daily/weekly/monthly_active_local_byok_users에서 확인할 수 있으며, byok_kind는 local_managed, local_user, local_auto, remote_user 네 가지로 나뉜다. 엔터프라이즈 커스텀 모델은 관리자가 GitHub 설정에서 구성하며 요청은 GitHub를 거쳐 제공자로 라우팅된다. totals_by_client[].totals_by_model[] 항목의 is_custom_enterprise_model 불리언 값으로 식별하며, 서버 측에서 관측되므로 IDE를 포함한 모든 클라이언트를 포괄한다. 두 항목 모두 엔터프라이즈 및 조직 보고서에서 1일 및 28일 단위로 제공된다. 기사는 로컬 BYOK 수치가 클라이언트 텔레메트리에 의존하므로 텔레메트리가 꺼져 있으면 과소 집계되며, 일부 로컬 제공자가 토큰 사용량을 보고하지 않아 토큰 수도 과소 집계될 수 있다고 밝혔다. 커스텀 모델 수치는 서버 측 관측이라 이 제한이 없다. 기존 총계는 변경되지 않으며 로컬 BYOK는 totals_by_cli 및 totals_by_copilot_app의 하위 집합이다. 이번 릴리스 이전 날짜의 보고서에는 is_custom_enterprise_model 값이 소급 적용되지 않는다. 접근은 엔터프라이즈 소유자, 엔터프라이즈 빌링 관리자, 조직 소유자 및 View Copilot Metrics 권한을 가진 사용자에게 제공되며 Copilot 사용량 메트릭 정책이 활성화되어 있어야 한다.
totals_by_local_byok의 byok_kind 값과 is_custom_enterprise_model 필드로 사용자별 BYOK 및 커스텀 모델 사용량을 Copilot 호스팅 모델 사용량과 분리해 집계할 수 있어, 조직 BYOK 정책 준수 여부와 사용자별 실제 Copilot 제공 비용을 구분해 점검할 수 있다.
원문 출처
GitHub Changelog