본 연구는 딥 뉴럴 네트워크를 해석하기 위해 제어 이론적 프레임워크를 제안한다. 훈련된 신경망을 비선형 상태 공간 시스템으로 취급하고, 국부 선형화, 제어성 및 관측성 Gramian, Hankel 특이값을 사용하여 내부 계산을 분석한다. 각 입력에 대해 네트워크를 해당 은닉 활성화 패턴 주변으로 선형화하고, 은닉 뉴런 활성화로 구성된 상태 공간 모델을 구성한다. 제어성과 관측성 Gramian을 계산하고, Hankel 특이값과 연관된 모드를 산출하여, 뉴런 및 경로의 중요성을 평가한다. SwiGLU 네트워크와 GELU 네트워크를 포함한 간단한 피드포워드 네트워크에서 프레임워크를 적용하여, 활성화 포화가 제어성을 감소시키고 지배적인 Hankel 특이값을 축소시키는 것을 확인했다.