SciML 방법의 구조적 선행 조건이 예측 성능에 미치는 영향 연구
SciML in the Wild: A Diagnostic Study of When Structural Priors Help and When They Hurt
Scientific Machine Learning (SciML) 방법인 Neural Ordinary Differential Equations (NODEs), Physics-Informed Neural Networks (PINNs), Universal Differential Equations (UDEs)는 구조적 선행 조건이 신뢰할 수 있는 동역학을 반영할 때 가장 효과적이다. 본 연구에서는 거시경제 예측을 스트레스 테스트 도메인으로 사용하여 ARIMA, LSTM, NODE, PINN, UDE의 다섯 가지 모델 패밀리를 23개 국가에서 평가하였다. 결과적으로, 평가된 모델들은 일관된 예측 성능을 보이지 않았으며, ARIMA와 NODE와 같은 덜 제약된 모델이 PINN과 UDE와 같은 더 제약된 모델보다 일관되게 우수한 성능을 보였다. 이는 SciML의 거부가 아니라, 구조적 선행 조건이 데이터 생성 과정과 일치하지 않을 때 잘못된 정규화로 작용할 수 있음을 보여준다.
SciML 실무자들은 구조가 도움이 되는지 테스트해야 하며, 구조적 선행 조건이 데이터 생성 과정과 일치하지 않을 경우 예측 성능에 부정적인 영향을 미칠 수 있다.
원문 출처
arXiv cs.LG (머신러닝)