본 논문은 추론 모델이 자신의 답변을 어떻게 검증하는지 연구합니다. CountDown 과제에 DeepSeek R1 레시피를 사용하여 모델을 훈련시키고, 선호도 조정으로 인한 모드 붕괴를 활용하여 항상 구조화되고 파싱이 용이한 사고 과정 순서를 생성하는 모델을 만듭니다. 상향식 및 하향식 분석을 통해 모델의 출력 검증 방식을 역설계합니다. 하향식 분석에서는 "success" 또는 "incorrect"와 같은 검증 관련 토큰을 인코딩하는 GLU 가중치를 밝히고, 이는 모델 추론 단계의 정확성에 따라 활성화됩니다. 상향식 분석에서는 "이전 토큰 헤드"가 주로 모델 검증을 담당함을 보여줍니다. 계층 간 통신 채널에서 영감을 얻어 식별된 GLU 벡터를 사용하여 모델 검증을 비활성화할 수 있는 3개의 어텐션 헤드를 찾아, 잠재적으로 더 큰 검증 회로의 필수 구성 요소를 지적합니다.
