본 논문은 지속적 학습(continual learning)에서 기존 과제의 성능이 새로운 과제를 학습할 때 일시적으로 저하되는 현상인 '안정성 간극(stability gap)'에 대해 다룬다. 이는 이상적인 공동 손실(joint-loss) 환경에서도 발생하며, 기존 학습 내용의 손실(forgetting)을 완화하는 알고리즘의 취약성을 보여준다. 본 논문은 이 간극이 빠른 적응과 견고한 유지 간의 불균형을 반영한다고 주장하며, 생물학적 뇌의 다중 시간 척도 동역학에서 영감을 얻어 불확실성을 조절하는 이득 역학(uncertainty-modulated gain dynamics)이라는 새로운 메커니즘을 제안한다. 이 메커니즘은 두 가지 시간 척도 최적화기를 근사하고, 지식 통합과 기존 정보의 간섭을 최소화하는 동적 균형을 제공한다. MNIST와 CIFAR 벤치마크에서의 실험 결과, 제안된 메커니즘이 안정성 간극을 효과적으로 완화하는 것을 보여준다. 마지막으로, 이득 변조가 대뇌 피질 회로에서 노르아드레날린 기능을 어떻게 재현하는지 분석하여 안정성 간극을 줄이고 지속적 학습 과제의 성능을 향상시키는 메커니즘에 대한 통찰력을 제공한다.
