본 논문은 현대 AI 개발 파이프라인의 다단계 과정(예: 사전 훈련, 미세 조정, 적응 및 정렬)에서 모델의 성공 또는 실패에 대한 책임을 특정 단계에 배정하는 '책임 귀속' 문제를 제기한다. 이를 해결하기 위해, 저자들은 특정 훈련 단계의 업데이트가 없었다면 모델의 행동이 어떻게 달라졌을지에 대한 반사실적 질문에 답하는 일반적인 프레임워크를 제안한다. 이 프레임워크 내에서, 재훈련 없이 효율적으로 단계적 효과를 정량화하는 1차 근사 기반 추정기를 소개한다. 해당 추정기는 학습률 일정, 모멘텀, 가중치 감쇠 등 최적화 역학의 주요 측면과 훈련 데이터를 모두 고려한다. 실험적으로, 제안된 접근 방식이 특정 행동에 대한 책임이 있는 훈련 단계를 식별하여 모델 분석을 위한 실용적인 도구를 제공하고 더 책임감 있는 AI 개발을 위한 한 걸음을 내딛는다는 것을 보여준다.
