LLM 기반 자기회귀 멀티모달 이상 탐지 프레임워크 LLMMAD, 마이크로서비스 시스템 모니터링용
Autoregressive Multimodal Anomaly Detection with Large Language Models for Microservice Systems
마이크로서비스 시스템의 장애와 성능 이상을 찾아내기 위해 대형 언어 모델(LLM)을 활용한 자기회귀 멀티모달 이상 탐지 프레임워크 LLMMAD가 제안되었다. 기존 방식이 가진 모달리티 고유 특성 손실과 identity-shortcut 문제를 함께 다룬다. LLMMAD는 멀티모달 데이터를 하나의 통합 시퀀스로 임베딩하고 재조합해 LLM이 모달리티 간 관계를 모델링하도록 한다. 동시에 모달리티별 재구성 헤드를 두어 각 모달리티의 고유 정보를 유지한다. identity-shortcut을 제거하기 위해 입력을 그대로 복사하는 대신 미래 상태를 예측하는 prediction-driven 자기회귀 목표를 적용했다. 세 가지 실제 데이터셋에서 실험한 결과, 최신 기법 대비 F1-score가 각각 3.1%, 1.4%, 0.9% 향상되었다.
마이크로서비스 모니터링에서 여러 모달리티 데이터를 함께 다루면서도 데이터별 특성을 잃지 않는 구조를 LLM으로 구현했다는 점이 실무 참고 지점이다.
원문 출처
arXiv cs.LG (머신러닝)