본 논문은 비전 및 텍스트 분야에서 성공을 거둔 기반 모델(FM) 패러다임이 과학, 공학, 의료 등 다양한 분야로 빠르게 확장되었지만, 기존의 지도 학습을 대체하는 데 성공했는지 여부를 조사한 연구 결과를 제시합니다. 유전체학, 위성 영상, 시계열 데이터 세 가지 모달리티에서 최신 FM과 표준 지도 학습 워크플로우(모델 개발, 하이퍼파라미터 튜닝, 훈련)를 비교 분석했습니다. 그 결과, 간단한 지도 학습 모델(약간 수정된 Wide ResNet 또는 UNet)이 최신 FM과 동등하거나 더 나은 성능을 보이는 경우가 빈번하게 나타났습니다. 이는 많은 특수 분야에서 대규모 사전 훈련의 이점이 아직 실현되지 않았음을 보여줍니다. 또한, 새로운 FM을 강력하고 잘 조정된 기준 모델과 비교할 필요성을 강조하고, 이를 위한 두 가지 새로운 오픈소스 자동화 워크플로우를 제시합니다.
