본 논문은 잘 정의된 무작위 설계 환경에서 두 개의 선형 회귀 과제를 포함하는 지속적 학습 문제의 통계적 성능을 연구합니다. 논문은 이전 과제의 헤시안에 맞춰 조정된 일반화된 ℓ₂-정규화를 통합하는 구조적 정규화 알고리즘을 고려하여 재앙적 망각을 완화합니다. 이 알고리즘에 대한 공동 과잉 위험의 상한과 하한을 설정하고, 메모리 복잡도와 통계적 효율성 사이의 근본적인 절충 관계를 밝힙니다. 여기서 메모리 복잡도는 구조적 정규화를 정의하는 데 필요한 벡터의 수로 측정됩니다. 구조적 정규화에서 벡터의 수를 늘리면 메모리 복잡도는 악화되지만 과잉 위험은 개선되고, 그 반대의 경우도 마찬가지입니다. 또한, 정규화 없이 단순하게 지속적 학습을 하는 것은 재앙적 망각으로 이어지는 반면, 구조적 정규화는 이 문제를 완화한다는 것을 이론적으로 제시합니다. 특히, 구조적 정규화는 두 과제에 동시에 접근하여 공동으로 훈련하는 것과 비슷한 성능을 달성합니다. 이러한 결과는 지속적 학습을 위한 곡률 인식 정규화의 중요한 역할을 강조합니다.
