유방 촬영 영상 기반 유방암 감지 딥러닝 모델은 다른 영상 모달리티(CT, MRI, X-ray) 또는 장비 변동과 같은 Out-of-Distribution (OOD) 입력에 대한 신뢰성 문제가 있음. 본 연구는 ResNet50 기반 OOD 필터링과 YOLO 아키텍처(YOLOv8, YOLOv11, YOLOv12)를 통합하여 OOD 문제를 해결하고자 함. 코사인 유사성을 통해 인-도메인 갤러리를 구축하여 맘모그래피가 아닌 입력을 사전 거부하고, OOD 감지 구성 요소는 99.77%의 일반 정확도와 OOD 테스트 세트에서 100% 정확도를 달성. OOD 필터링은 맘모그래피 데이터에 대한 높은 탐지 정확도를 유지하면서, OOD 입력에 대한 오경보를 방지하여 시스템 신뢰성을 향상시킴.