Set Transformer와 ChemBERTa로 고분자 복합재의 X선 투과율을 밀리초 단위로 예측하는 STAR-XPC
STAR-XPC: Set Transformer for Estimating X-ray Transmission in Polymer Composites
arXiv에 공개된 STAR-XPC는 고분자 복합재를 통과하는 X선의 에너지 투과율 I(t)/I0를 예측하는 신경망 모델이다. 몬테카를로 수송 시뮬레이션이 최대 4×10^9 광자 이력과 20,000초 제한으로 수 시간이 걸리는 것과 달리, 이 모델은 질의당 1~3밀리초 만에 결과를 낸다. 모델은 구성 성분의 분자 집합, 질량 분율, 네 가지 벌크 물리 기술자를 입력으로 받는다. 입력 집합은 순서에 무관하도록 Set Transformer로 구성되었으며, 최대 11개 성분을 고정 크기 패딩 집합으로 처리한다. 각 성분은 화학 사전학습 트랜스포머 언어 모델인 ChemBERTa로 임베딩한다. 학습 데이터는 PENELOPE/penEasy 기반 자동화 파이프라인으로 생성했다. 관전압 30, 80, 100, 120 kV의 방사선원과 두께 0.15~2.5 mm의 폴리에틸렌 기반 차폐 복합재 슬랩을 사용했으며, 전처리 후 n = 4697개의 시뮬레이션 구성이 포함되었다. 누설 없이 공동 층화한 10-fold 교차검증에서 평균제곱오차는 (1.12 ± 0.56)×10^-4, R^2는 0.9988로 나타났다. 알파 절사(α = 0.10) 절대백분율오차는 1.66%, 중앙값 APE는 1.15%였다.
차폐 복합재 설계에서 Monte Carlo 시뮬레이션 대신 질의당 1~3밀리초의 Set Transformer 추론으로 I(t)/I0를 대체할 수 있음을 보여주며, 이때 평균 APE 기준 정확도 수치(중앙값 APE 1.15%)가 함께 제시된다.
원문 출처
arXiv cs.LG (머신러닝)