BatchDAG: LLM이 생성한 실행 그래프를 통한 기업 데이터 분석
BatchDAG: LLM-Planned Execution Graphs for Scalable Ad-Hoc Analysis Over Enterprise Data
BatchDAG는 대형 언어 모델(LLM)이 SQL 쿼리, 의미 검색, 메모리 내 변환 등을 포함한 작업의 유형화된 비순환 그래프(DAG)를 생성하여 분석을 수행하는 시스템이다. 이 시스템은 12개의 쿼리 실험에서 전문가 설계 파이프라인과 유사한 품질(3.74/5)을 달성하며, ReAct 에이전트(3.09/5)보다 유의미하게 성능이 우수하다(p<0.01). BatchDAG는 50,000건 이상의 회의에 대한 쿼리를 60초 이내에 처리하며, 쿼리당 비용은 $0.02-$0.24로 측정되었다.
BatchDAG는 LLM 호출을 최대 47배 줄이는 엔터티 인식 배칭을 통해 효율성을 높인다.
원문 출처
arXiv cs.AI (인공지능)