토스 AI DX Team의 Skill 품질 관리 Rubric 설계
Skill 품질 관리를 위한 Rubric 설계와 시스템 구현
토스 AI DX Team의 조민규 개발자는 사내 공용 Skill의 품질 문제를 해결하기 위해 6개 섹션과 30개 항목으로 구성된 Rubric을 설계했다. 이 Rubric은 Skill의 품질을 BLOCKER, MAJOR, MINOR로 평가하며, 각 항목은 LLM 모델과 정규식을 활용해 검증된다. Skill의 호출 실패 원인으로는 트리거 실패와 형식 위반이 있으며, 이를 구분하여 관리하는 것이 핵심이다.
Skill의 품질을 관리하기 위한 Rubric은 6개 섹션과 30개 항목으로 구성되어 있으며, BLOCKER가 하나라도 있으면 F 등급으로 평가된다.
원문 출처
토스 테크 (Toss Tech)