Which Backbone to Use: A Resource-efficient Domain Specific Comparison for Computer Vision
Created by
- Haebom
Category
Empty
저자
Pranav Jeevan, Amit Sethi
개요
본 논문은 다양한 도메인(자연 이미지, 의료 이미지, 은하 이미지, 원격 감지 이미지)과 데이터셋 크기에 걸쳐 다양한 경량 사전 훈련된 CNN 백본의 성능을 체계적으로 평가합니다. ImageNet과 같은 대규모 데이터셋에서 사전 훈련된 아키텍처 백본이 이미지 분류와 같은 컴퓨터 비전 애플리케이션에서 특징 추출기로 널리 사용되지만, 다양한 도메인과 데이터셋 크기에 따른 자원 효율적인 백본의 성능에 대한 이해는 부족합니다. 본 연구는 일관된 훈련 설정 하에서 여러 경량 사전 훈련된 CNN 백본을 평가하여, 특히 사전 훈련된 네트워크의 미세 조정이 중요한 소규모 데이터셋 시나리오에서 적합한 백본 선택을 위한 실용적인 통찰력을 제공합니다. 실험 결과, 어텐션 기반 아키텍처는 CNN에 비해 데이터가 적은 미세 조정 작업에서 성능이 떨어지는 경향이 있었으며, ConvNeXt, RegNet, EfficientNet과 같은 일부 CNN 아키텍처가 다양한 도메인에서 일관되게 우수한 성능을 보였습니다.
시사점, 한계점
•
시사점:
◦
다양한 도메인과 데이터셋 크기에 대한 경량 CNN 백본의 성능 비교 분석을 통해 실용적인 모델 선택 가이드라인을 제공합니다.
◦
소규모 데이터셋에서의 미세 조정 작업에 적합한 백본 아키텍처(예: ConvNeXt, RegNet, EfficientNet)를 제시합니다.
◦
어텐션 기반 아키텍처의 한계점을 지적하고, 소규모 데이터셋 미세 조정 작업에서는 CNN이 더 효과적임을 보여줍니다.
•
한계점:
◦
평가에 사용된 CNN 백본의 종류가 제한적일 수 있습니다.
◦
특정 도메인에 편향된 데이터셋이 사용되었을 가능성이 있습니다.
◦
더욱 다양한 하이퍼파라미터 조정을 통한 추가적인 실험이 필요할 수 있습니다.
