본 논문은 기계 학습을 위한 새로운 정규화 절차인 고차 정규화(HR)를 제안합니다. HR은 신경망을 훈련하는 데 널리 사용되는 정규화에 대한 새로운 통찰력을 제공하며, 일반적인 강화 학습 문제에서 행동-가치 함수를 근사하는 데 활용될 수 있습니다. 제안된 HR 방법은 근사 알고리즘의 증명 가능한 수렴성을 보장하며, 이는 정규화와 신경망을 사용한 설명 가능한 학습 사이의 매우 필요한 연결을 만듭니다. HR 방법은 이론적으로 정규화를 명시적으로 계산 가능한 근사 오차를 갖는 역 매핑 측면에서의 근사로 간주할 수 있음을 보여주며, L2 정규화는 제안된 방법의 저차 사례임을 보여줍니다. 본 논문은 제안된 HR 솔루션의 오차에 대한 상한과 하한을 제공하여 신뢰할 수 있는 모델을 구축하는 데 도움을 줍니다. 또한 제안된 HR을 사용한 정규화는 수축으로 간주될 수 있음을 발견했습니다. 신경망의 일반화 성능은 적절한 정규화 행렬을 사용하여 극대화될 수 있으며, 제안된 HR은 임의의 매핑 행렬을 갖는 신경망에 적용 가능함을 증명합니다. 신경망 훈련을 위한 극한 학습 기계에 대한 이론적 설명과 제안된 고차 정규화를 통해 신경망의 출력을 더 잘 해석하여 설명 가능한 학습으로 이어질 수 있습니다. 정규화된 극한 학습 신경망을 기반으로 한 사례 연구를 통해 제안된 HR의 응용을 보여주고 증분 HR 솔루션을 제공합니다. 강화 학습에서 고전적인 제어 문제를 해결하여 제안된 HR 방법의 성능을 검증합니다. 결과는 신경망의 일반화 성능이 크게 향상된 방법의 우수한 성능을 보여줍니다.
