Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

MoRE-Brain: Routed Mixture of Experts for Interpretable and Generalizable Cross-Subject fMRI Visual Decoding

Created by
  • Haebom

저자

Yuxiang Wei, Yanteng Zhang, Xi Xiao, Tianyang Wang, Xiao Wang, Vince D. Calhoun

개요

MoRE-Brain은 fMRI 신호로부터 고충실도, 적응력 있고 해석 가능한 시각적 재구성을 위한 신경망 기반 프레임워크입니다. 기존 연구들이 재구성 정확도에만 집중하는 것과 달리, MoRE-Brain은 기능적으로 관련된 복셀 그룹의 fMRI 신호를 처리하는 별개의 전문가 네트워크를 가진 계층적 Mixture-of-Experts 아키텍처를 사용하여 뇌 네트워크의 특징을 모방합니다. 전문가 네트워크는 먼저 fMRI를 고정된 CLIP 공간으로 인코딩한 후, 미세 조정된 확산 모델이 새로운 이중 단계 라우팅 메커니즘을 통해 전문가 출력을 가이드하여 이미지를 합성합니다. 이를 통해 고해상도 재구성과 더불어, 각 뇌 영역이 재구성 이미지의 의미적 및 공간적 속성에 어떻게 영향을 미치는지에 대한 통찰력을 제공합니다. 핵심 전문가 네트워크를 공유하고 피험자 특이적 라우터만 조정하여 효율적인 피험자 간 일반화를 달성합니다.

시사점, 한계점

시사점:
뇌 네트워크 원리를 기반으로 하는 새로운 Mixture-of-Experts 아키텍처를 도입하여 고충실도, 적응력 있고 해석 가능한 fMRI 기반 시각적 재구성을 가능하게 함.
핵심 전문가 네트워크 공유 및 피험자 특이적 라우터만 조정을 통해 효율적인 교차 피험자 일반화 달성.
명시적인 라우팅 메커니즘을 통해 모델링된 뇌 영역이 재구성 이미지의 의미적 및 공간적 속성에 미치는 영향을 명확히 제시하여 향상된 기전적 통찰력 제공.
병목 분석을 통해 fMRI 신호의 효율적인 활용을 입증하고, 생성 사전에 대한 과도한 의존을 배제.
한계점:
코드 공개는 추후 예정.
실제 뇌 네트워크와의 정확한 일치 여부에 대한 추가적인 검증 필요.
다양한 시각적 자극 및 피험자 집단에 대한 일반화 성능에 대한 추가 연구 필요.
👍