Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Catastrophic Forgetting in Kolmogorov-Arnold Networks

Created by
  • Haebom
Category
Empty

저자

Mohammad Marufur Rahman, Guanchu Wang, Kaixiong Zhou, Minghan Chen, Fan Yang

개요

본 논문은 지속 학습(continual learning)에서 발생하는 재앙적 망각 현상에 대한 Kolmogorov-Arnold Networks (KANs)의 성능을 연구한다. KANs는 국소 스플라인 기반 활성화를 활용하여 망각에 강하다고 알려져 있지만, 실제 지속 학습 환경에서의 동작과 한계는 불분명하다. 본 연구는 KANs의 재앙적 망각 현상에 대한 포괄적인 연구를 수행하고, 활성화 지원 중첩과 내재적 데이터 차원 간의 관계를 분석하는 이론적 프레임워크를 제시한다. 또한 KAN-LoRA라는 언어 모델의 파라미터 효율적인 지속적 미세 조정 어댑터를 제안하고, 지식 편집 작업에서의 효과를 평가한다.

시사점, 한계점

KANs는 저차원 알고리즘 설정에서는 유망한 지식 유지 능력을 보임.
이미지 분류 및 언어 모델링과 같은 고차원 도메인에서는 여전히 망각에 취약함.
KANs의 망각 현상은 활성화 지원 중첩 및 데이터 차원과 연관됨.
KAN-LoRA는 파라미터 효율적인 지속적 미세 조정 어댑터로 제안됨.
연구 결과는 지속 학습 시스템 설계에 대한 실용적인 통찰력을 제공함.
👍