본 논문은 전자 건강 기록(EHR)을 사용하여 질병 위험을 예측하기 위한 Transformer 기반 딥러닝 모델인 BiPETE(Bi-Positional Embedding Transformer Encoder)를 제안합니다. BiPETE는 불규칙한 방문 간격과 통일된 구조의 부재로 인한 시간적 종속성 문제를 해결하기 위해 회전 위치 임베딩(relative visit timing)과 사인 임베딩(visit order)을 통합하여 단일 질병 예측을 수행합니다. 두 개의 정신 건강 코호트(우울증 및 외상 후 스트레스 장애(PTSD))의 EHR 데이터를 사용하여 알코올 및 약물 사용 장애(ASUD) 위험을 예측하도록 BiPET를 훈련시켰으며, 기존 모델보다 성능이 우수함을 보였습니다. 또한, 통합 기울기(Integrated Gradients) 방법을 사용하여 모델 예측을 해석하고 ASUD 위험 및 보호와 관련된 주요 임상 특징을 식별했습니다.
