본 논문은 대규모 모델 연구를 위한 유망한 이론적 도구인 무한대 너비 제한과 관련된 기존 이론의 한계를 지적하고, 표준 매개변수화 (He 초기화, 전역 학습률) 하에서 훈련된 실제 네트워크의 동작을 더 정확하게 설명하는 새로운 분석 결과를 제시한다. 특히, 교차 엔트로피 (CE) 손실 하에서 기존에 불안정하다고 여겨졌던 영역을 재분석하여, '통제된 발산'이라는 새로운 하위 영역을 발견하고, 이 영역에서 특징 학습이 지속될 수 있음을 밝힌다. 실험을 통해 다양한 설정에서 이러한 결과를 검증하고, 너비 스케일링 고려사항이 안정적인 학습률 지수를 예측하는 데 유용함을 보여준다.
