Seeing the Trees for the Forest: Rethinking Weakly-Supervised Medical Visual Grounding
Created by
Haebom
저자
Ta Duc Huy, Duy Anh Huynh, Yutong Xie, Yuankai Qi, Qi Chen, Phi Le Nguyen, Sen Kim Tran, Son Lam Phung, Anton van den Hengel, Zhibin Liao, Minh-Son To, Johan W. Verjans, Vu Minh Hieu Phan
개요
본 논문은 의료 영상에서 시각적 근거(Visual Grounding, VG)를 향상시키는 방법을 제시합니다. 기존의 시각-언어 모델(VLMs)은 비효율적인 어텐션 메커니즘과 세밀한 토큰 표현의 부족으로 인해 질병 영역과 텍스트 설명을 효과적으로 연결하지 못하는 문제점을 가지고 있습니다. 본 논문에서는 VLMs가 배경 토큰에 높은 노름을 할당하여 질병 영역에서 주의를 돌리고, 전역 토큰이 지역 질병 토큰을 제대로 대표하지 못한다는 두 가지 관찰 결과를 제시합니다. 이를 해결하기 위해, VLMs의 설명 가능성 지도를 활용하여 적절한 영상 특징을 식별하는 간단하면서도 효과적인 질병 인식 프롬프팅(Disease-Aware Prompting, DAP) 기법을 제안합니다. DAP는 추가적인 픽셀 단위 주석 없이도 세 가지 주요 흉부 X선 데이터셋에서 최첨단 방법에 비해 시각적 근거 정확도를 20.74% 향상시킵니다.
시사점, 한계점
•
시사점:
◦
VLMs의 배경 토큰에 대한 과도한 집중과 지역 질병 토큰 표현의 부족이 VG 성능 저하의 주요 원인임을 밝힘.
◦
간단한 DAP 기법을 통해 의료 영상 VG 성능을 크게 향상시킬 수 있음을 실험적으로 증명.
