본 논문은 기존 확률적 경사 하강법(SGD)의 한계점을 극복하기 위해, 삼중 관성 가속 교대 최소화(TIAM) 프레임워크를 제안합니다. TIAM은 기울기가 없는 접근 방식을 사용하는 교대 최소화(AM) 방법을 기반으로 하며, 삼중 관성 가속 전략과 특수한 근사 방법을 통합하여 각 하위 문제 최적화의 효율성을 높입니다. 이를 통해 기존 방법들보다 더 빠른 수렴 속도와 향상된 일반화 성능을 달성하며, 특히 ReLU와 그 변형체를 사용하는 신경망 훈련에 효과적임을 실험적으로 검증합니다. 또한, TIAM 알고리즘의 전역 수렴 특성과 수렴 속도를 포함한 수렴 분석을 제공합니다.
