DISTAL: 구조 비의존 재료 속성 예측을 위한 증류 및 자기 지도 사전 학습
DISTAL: Distillation and Self-Supervised Pretraining for Structure-Agnostic Materials Property Prediction
DISTAL은 구조 정보가 제한된 초기 단계 스크리닝에서 사용할 수 있는 구조 비의존 재료 속성 예측을 위한 이중 우선 프레임워크이다. 이 모델은 145개의 조성 유도 설명자를 사용하여 대규모 가상 조성 공간에서 전이 가능한 조성 표현을 학습하고, 사전 학습된 ALIGNN 교사로부터 구조적 지식을 증류하여 조성 조건화된 학생 모델을 만든다. DISTAL은 39개의 벤치마크 작업에서 최상의 성능을 보이며, 37개의 작업에서 기준 벤치마크를 초과하는 성과를 달성하였다. 소스 코드와 사전 학습된 모델은 https://osf.io/eq96d/overview?view_only=451617f42f7849e08750bd1852b48980에서 확인할 수 있다.
DISTAL은 조성 사전 학습과 구조 증류를 통해 소량 데이터에서의 강력한 조성 기반 예측을 가능하게 한다.
원문 출처
arXiv cs.LG (머신러닝)