MSLoRA는 사전 훈련된 백본을 재조정하는 대신 특징 응답을 재가중하는 백본 독립적이고 매개변수 효율적인 어댑터입니다. 컨볼루션 신경망(CNN)과 비전 변환기(ViT) 모두에 대한 적응을 통합하여 공간 및 채널 주의를 공동으로 조절하는 다중 스케일 비선형 변환과 함께 저순위 선형 투영을 결합합니다. 두 구성 요소는 점별 곱셈과 잔여 연결을 통해 융합되어 사전 훈련된 가중치를 고정하면서 특징 주의를 이동하는 경량 모듈을 생성합니다. 실험 결과 MSLoRA는 분류, 감지 및 분할 작업에서 백본 매개변수의 5% 미만으로 전송 성능을 향상시킵니다. 또한 안정적인 최적화, 빠른 수렴 및 강력한 교차 아키텍처 일반화를 가능하게 합니다. MSLoRA는 재조정 대신 재가중을 통해 고정된 비전 백본의 효율적인 적응을 위한 간단하고 보편적인 접근 방식을 제공합니다.
