본 논문은 심층 신경망에서 발생하는 치명적인 망각 문제를 해결하기 위한 새로운 방법을 제시합니다. 기존의 규제 기법들이 훈련 과정 전체에서 중요한 파라미터를 식별하고 제약하는 것과 달리, 본 논문은 최종 훈련 플래토 단계에서 파라미터의 활동성(움직임과 변동성)을 추적하는 접근 방식을 제안합니다. 플래토 단계에서 활동성이 높은 파라미터는 손실 지형에서 상대적으로 평평한 방향을 나타내므로, 새로운 과제에 적응하면서 이전 지식을 보존하는 데 적합하다고 주장합니다. 실험 결과, 이 방법이 기존 방법보다 치명적인 망각을 완화하면서 새로운 과제에 대한 성능을 향상시키는 것을 보여줍니다.
