주파수 분해가 물리 기반 신경망에 미치는 이점
When Does Frequency Decomposition Benefit Physics-Informed Neural Networks? A Preliminary Ablation Study
부분 미분 방정식(PDE)은 신경망이 근사하기 어려운 고주파 및 다중 스케일 특성을 가지며, 물리 기반 신경망(PINN)은 훈련에 지배 방정식을 직접 포함하나 스펙트럼 편향으로 인해 저주파 성분을 더 빨리 학습한다. 본 연구에서는 저주파 및 고주파 성분을 분리하여 적응형 게이트로 연결하는 이중 분기 스펙트럴 게이티드 아키텍처(DBSG-PINN)를 도입하고, 주파수 분해 및 스펙트럴 라우팅의 효과를 부분적으로 검증하였다. 다섯 개의 1차원 벤치마크 PDE에서 주파수 분해는 스펙트럴 복잡성이 높은 벤치마크에서 상대 $L_2$ 오차를 최대 $59.2 ext{%}$ 줄이는 데 도움이 되었으나, 부드러운 PDE에서는 큰 이점을 주지 않았다. 이 연구는 패턴이 유지되는지 추가적인 검증이 필요함을 제기하는 탐색적 연구로 제시된다.
원문 출처
arXiv cs.LG (머신러닝)