BudgetSchemaBench: 텍스트-투-SQL에서 스키마 컨텍스트를 위한 예산 기반 진단
BudgetSchemaBench: A Budget-Swept Diagnostic for Schema Context in Text-to-SQL
BudgetSchemaBench는 데이터 에이전트가 데이터베이스 스키마를 모델의 컨텍스트 윈도우에 맞추는 데 필요한 예산 기반 진단 도구이다. 80개 데이터베이스 카탈로그를 사용하여 네 가지 스키마-컨텍스트 예산을 평가하고, 세 가지 표현 방식을 비교하였다. 예산을 2.5%에서 50%로 증가시키면 1,279개의 질문에 대한 실행 정확도가 18% 향상되지만, 밀집 검색에서는 3% 향상에 그쳤다. 필요한 테이블이 제거되었을 때 94.6%의 정확한 예측이 해당 테이블 중 하나를 정확히 언급하였다. 이 진단 도구와 평가에 사용된 코드는 공개되어 있다.
예산을 2.5%에서 50%로 증가시키면 실행 정확도가 18% 향상된다.
원문 출처
arXiv cs.CL (계산언어학·NLP)