학습된 옵티마이저(LO)는 메타 학습의 한 유형으로 효율적인 최적화를 위해 매개변수화되고 훈련될 수 있다. 본 논문은 전통적인 정규화 기법(SAM, GAM, GSAM 등)의 효과를 명시적으로 적용하지 않고도 LO가 이를 학습하고 내재화할 수 있는지에 대한 근본적인 질문에 답한다. 표준 벤치마크(MNIST, FMNIST, CIFAR, MLP, MLP-Relu, CNN 등)에 대한 광범위한 실험을 통해 정규화된 LO가 테스트 정확도와 일반화 측면에서 정규화되지 않은 LO보다 일관되게 우수함을 입증했다. 또한, LO가 이러한 정규화 효과를 새로운 최적화 작업으로 전송하며, 이러한 정규화 기법이 목표로 하는 최소값과 유사한 최소값을 본질적으로 찾는다는 것을 보여주었다.
