본 논문은 의료 분야의 기존 파운데이션 모델이 광범위한 미세 조정이 필요하거나, 특정 작업에 편향된 사전 훈련 목표를 가진 인코더에 의존하는 문제를 해결하기 위해, 최소한의 미세 조정만으로 강력한 성능을 보이는 작업 불가지론적 파운데이션 모델을 제안합니다. 구체적으로, Vision Transformers (ViTs)와 DINOv2를 3D CT 볼륨 데이터에 맞게 단순하고 효과적으로 적용한 TAP-CT를 소개합니다. 이 방법은 패치 임베딩, 위치 인코딩, 및 볼륨 증강에 대한 맞춤형 수정을 통해 아키텍처의 단순성을 유지하면서 깊이 인식을 가능하게 합니다. 105,000개의 CT 볼륨으로 구성된 대규모 데이터 세트를 사용하여 3D 사전 훈련을 수행한 결과, 다운스트림 작업에서 강력하게 일반화되는 안정적이고 견고한 고정 표현을 얻었습니다. 연구 결과는 투명성과 재현성을 위해 공개될 예정입니다.
