본 논문은 언어 모델의 메커니즘을 밝히는 데 사용되는 회로 그래프의 문제점을 해결하기 위해, 개별 기술을 선형적인 컴포넌트 체인으로 분리하는 "스킬 경로"를 제안합니다. 이를 위해, 분해, 가지치기, 인과 매개변수 사후 처리를 포함하는 3단계 프레임워크를 제시하고, 변압기 모델의 완전한 선형 분해를 통해 계산 그래프를 분리합니다. 인과 분석 기술을 활용하여 회로 그래프에서 최종 스킬 경로를 추출합니다. 이전 토큰 기술, 유도 기술, 문맥 내 학습 기술과 같은 세 가지 일반적인 언어 기술을 연구하여 스킬 경로의 중요성을 강조하고, 계층화 및 포괄성의 두 가지 중요한 특성을 실험적으로 입증합니다.
