Dynamic Spectral Backpropagation (DSBP)는 주요 고유 벡터에 기울기를 투영하여 복잡성을 줄이고 평평한 최소값을 촉진함으로써 자원 제약 조건 하에서 신경망 훈련을 향상시키는 새로운 방법입니다. 다섯 가지 확장 (동적 스펙트럼 추론, 스펙트럼 아키텍처 최적화, 스펙트럼 메타 학습, 스펙트럼 전달 정규화, Lie 대수에서 영감을 받은 역학)을 제안하여 강건성, 소량 학습 및 하드웨어 효율성의 과제를 해결합니다. 3차 확률 미분 방정식(SDE)과 PAC Bayes 한계에 의해 뒷받침되는 DSBP는 CIFAR 10, Fashion MNIST, MedMNIST 및 Tiny ImageNet에서 Sharpness Aware Minimization (SAM), Low Rank Adaptation (LoRA), Model Agnostic Meta Learning (MAML)을 능가하는 성능을 보여줍니다. 향후 연구는 확장성, 편향 완화 및 윤리적 고려 사항에 중점을 둘 것입니다.
