본 논문은 대규모 언어 모델(LLM)의 장문 추론 과정의 해석성 문제를 해결하기 위해 문장 단위 분석에 초점을 맞춘 연구입니다. LLM의 추론 과정을 이해하기 위해 세 가지 상호 보완적인 귀인(attribution) 방법을 제시합니다. 첫째, 각 문장의 반사실적 중요도를 측정하는 블랙박스 방법, 둘째, 문장 간 어텐션 패턴을 집계하여 "방송" 문장과 "수신" 어텐션 헤드를 식별하는 화이트박스 방법, 셋째, 한 문장에 대한 어텐션을 억제하여 다른 문장에 미치는 영향을 측정하는 인과적 귀인 방법입니다. 세 가지 방법 모두 추론 과정에 과도한 영향을 미치는 "사고 앵커(thought anchors)"의 존재를 밝히고, 이는 주로 계획 또는 되짚어보는 문장임을 보여줍니다. 마지막으로, 사고 앵커를 시각화하는 오픈소스 도구를 제공하고, 다단계 추론 과정에서 각 방법의 결과가 일치하는 사례 연구를 제시합니다.
