SWE-Serve가 로컬 테스트와 라이브 서빙 간의 격차를 드러내다
How SWE-Serve Exposes the Gap Between Local Tests and Live Serving
AI 코딩 에이전트의 패치는 테스트를 통과할 수 있지만, 서버가 실제 모델을 로드하고 요청을 처리할 때 실패할 수 있다. 따라서 추론 서빙 소프트웨어의 변경 사항을 평가하려면 시스템이 공개 인터페이스를 통해 올바른 결과를 반환하는지 확인하는 전체 서빙 경로를 점검해야 한다. SWE-Serve는 SGLang 팀의 입력을 바탕으로 53개의 작업을 통해 이 격차를 평가한다.
SWE-Serve는 AI 코딩 에이전트의 패치가 실제 환경에서 어떻게 작동하는지를 평가하는 데 중요한 도구이다.
원문 출처
NVIDIA Technical Blog