Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

LoRA-based methods on Unet for transfer learning in Subarachnoid Hematoma Segmentation

Created by
  • Haebom
Category
Empty

저자

Cristian Minoccheri, Matthew Hodgman, Haoyuan Ma, Rameez Merchant, Emily Wittrup, Craig Williamson, Kayvan Najarian

개요

뇌동맥류 지주막하 출혈(SAH)은 생명을 위협하는 신경학적 응급 상황으로, 사망률이 30%를 초과한다. 관련 혈종 유형으로부터의 전이 학습은 잠재적으로 가치 있는 접근 방식이지만 충분히 연구되지 않았다. 제한된 데이터 세트에 대한 효과로 인해 Unet 아키텍처는 의료 영상 분할의 표준으로 남아 있지만, 매개변수 효율적인 전이 학습을 위한 Low-Rank Adaptation (LoRA) 방법은 의료 영상 컨텍스트의 컨볼루션 신경망에 거의 적용되지 않았다. 본 연구에서는 여러 기관의 124명의 외상성 뇌 손상 환자의 전산화 단층 촬영 스캔에 대해 사전 훈련된 Unet 아키텍처를 구현한 다음, 미시간 대학교 헬스 시스템의 30명의 뇌동맥류 SAH 환자를 대상으로 3겹 교차 검증을 사용하여 미세 조정했다. 텐서 CP-분해를 기반으로 하는 새로운 CP-LoRA 방법을 개발하고, 가중치 행렬을 크기와 방향 성분으로 분해하는 DoRA 변형(DoRA-C, convDoRA, CP-DoRA)을 도입했다. 이러한 접근 방식을 기존 LoRA 방법(LoRA-C, convLoRA) 및 표준 미세 조정 전략과 비교했다. LoRA 기반 방법은 표준 Unet 미세 조정을 일관되게 능가했다. 성능은 출혈 부피에 따라 다르며, 모든 방법이 더 큰 부피에 대해 향상된 정확도를 보였다. CP-LoRA는 기존 방법과 동등한 성능을 달성하면서 훨씬 적은 매개변수를 사용했다. 높은 랭크를 사용한 과도한 매개변수화는 엄격한 low-rank 적응보다 일관되게 더 나은 성능을 보였다. 본 연구는 혈종 유형 간의 전이 학습이 가능하다는 것을 보여주며, LoRA 기반 방법이 뇌동맥류 SAH 분할에 대해 기존 Unet 미세 조정을 크게 능가한다는 것을 보여준다.

시사점, 한계점

시사점:
뇌동맥류 SAH 분할을 위한 전이 학습의 가능성 제시.
LoRA 기반 방법이 기존 Unet 미세 조정보다 우수한 성능을 보임.
CP-LoRA는 적은 매개변수로 기존 방법과 유사한 성능 달성.
과도한 매개변수화가 low-rank 적응보다 더 나은 성능을 보임.
한계점:
데이터 세트가 상대적으로 작음(30명의 SAH 환자).
특정 기관의 데이터에 국한됨.
성능이 출혈 부피에 따라 달라짐.
👍