Data distribution impacts the performance and generalisability of contrastive learning-based foundation models of electrocardiograms
Created by
Haebom
저자
Gul Rukh Khattak, Konstantinos Patlatzoglou, Joseph Barker, Libor Pastika, Boroumand Zeidaabadi, Ahmed El-Medany, Hesham Aggour, Yixiu Liang, Antonio H. Ribeiro, Jeffrey Annis, Antonio Luiz Pinho Ribeiro, Junbo Ge, Daniel B. Kramer, Jonathan W. Waks, Evan Brittain, Nicholas Peters, Fu Siong Ng, Arunashis Sau
개요
본 논문은 대규모 다양한 인구 집단(5,203,352명, 3개 대륙)의 심전도 데이터를 이용하여 대조 학습 기반의 심전도 분석 Foundation Model인 CAPE를 제시합니다. 다양한 코호트의 인구통계학적 특징, 건강 상태, 다양성이 downstream 예측 성능에 미치는 영향을 체계적으로 평가하고, 다양한 코호트로 사전 학습하면 in-distribution 정확도는 향상되지만, 코호트 특이적 인공물을 인코딩하여 out-of-distribution (OOD) 일반화 성능은 저하됨을 발견합니다. 이 문제를 해결하기 위해, 사전 학습 중 코호트 내 일관성을 유지하고 OOD 강건성을 향상시키는 In-Distribution Batch (IDB) 전략을 제안합니다. 이는 임상적으로 공정하고 일반화 가능한 Foundation Model 개발에 중요한 통찰력을 제공합니다.
시사점, 한계점
•
시사점:
◦
대조 학습 기반 Foundation Model의 성능이 사전 학습 코호트의 분포 특성(인구통계학적 특징, 건강 상태 등)에 크게 의존함을 밝힘.
◦
다양한 코호트를 사용한 사전 학습은 in-distribution 성능 향상에 기여하지만, OOD 일반화 성능 저하를 야기할 수 있음을 제시.
◦
OOD 강건성을 향상시키는 IDB 전략을 제안하여 임상적으로 공정하고 일반화 가능한 모델 개발 가능성 제시.
•
한계점:
◦
IDB 전략의 효과를 다른 유형의 데이터나 다른 기계 학습 방법에 적용 가능한지에 대한 추가 연구 필요.
◦
사용된 코호트의 특징(예: 질병 분포)이 다른 실제 임상 환경에서의 일반화 성능에 대한 추가 검증 필요.
