본 논문은 tanh 활성화 함수를 사용하는 신경망을 위한 새로운 가중치 초기화 방법을 제안합니다. tanh 활성화 함수의 고정점 분석을 기반으로, 활성화 함수의 포화를 완화하는 a 값을 결정하는 것을 목표로 합니다. 다양한 분류 데이터셋과 물리 정보 신경망에 대한 실험을 통해 제안된 방법이 Xavier 초기화 방법(정규화 유무)보다 네트워크 크기, 데이터 효율성 및 수렴 속도 측면에서 강건성이 뛰어남을 보여줍니다. GitHub에 코드를 공개했습니다.
