Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Noise-Robustness Through Noise: Asymmetric LoRA Adaption with Poisoning Expert

Created by
  • Haebom

저자

Zhaokun Wang, Jinyu Guo, Jingwen Pu, Lingfeng Chen, Hongli Pu, Jie Ou. Libo Qin, Wenhong Tian

개요

본 논문은 사전 훈련된 언어 모델을 하위 작업에 적용하는 매개변수 효율적인 미세 조정 방법에서 노이즈 데이터의 간섭에 취약한 문제를 해결하기 위해 비대칭 LoRA 포이즈닝 전문가(LoPE)를 제안합니다. LoPE는 혼합 전문가 아키텍처에서 영감을 받아, 미세 조정 중 포이즈닝 전문가에 노이즈 주입을 수행하여 노이즈 식별 및 처리 능력을 향상시키는 2단계 패러다임을 사용합니다. 추론 중에는 전용 포이즈닝 전문가를 선택적으로 마스크하여 정상 전문가가 획득한 정제된 지식을 활용하여 노이즈에 강한 출력을 생성합니다. 기존의 노이즈 처리 방법과 달리, 데이터 전처리나 모델 아키텍처 수정 없이 생성된 노이즈 데이터만으로 모델의 노이즈 내성을 높입니다.

시사점, 한계점

시사점:
데이터 정제 없이 생성된 노이즈 데이터만을 이용하여 노이즈에 강한 언어 모델 미세 조정을 가능하게 함.
기존의 노이즈 처리 방법보다 효율적이고 저렴한 비용으로 노이즈 내성을 향상시킴.
LoRA 기반의 매개변수 효율적인 방법을 사용하여 모델의 크기 증가를 최소화함.
한계점:
LoPE의 성능은 생성된 노이즈 데이터의 품질에 영향을 받을 수 있음.
다양한 유형의 노이즈 데이터에 대한 일반화 성능에 대한 추가 연구가 필요함.
포이즈닝 전문가의 설계 및 노이즈 주입 전략의 최적화에 대한 추가 연구가 필요함.
👍