본 논문은 신경망 역설계의 핵심 단계인 신경망을 더 단순한 부분으로 분해하는 연구에 대해 다룹니다. 기존의 분해 방법들의 문제점을 해결하기 위해 제안된 선형 매개변수 분해 프레임워크는 신경망 매개변수를 매개변수 공간에서 드물게 사용되는 벡터들의 합으로 분해합니다. 하지만 기존의 주요 방법인 APD(Attribution-based Parameter Decomposition)는 계산 비용과 하이퍼파라미터 민감도 때문에 실용적이지 않습니다. 본 논문에서는 APD보다 확장성이 뛰어나고 하이퍼파라미터에 강건한 새로운 방법인 SPD(Stochastic Parameter Decomposition)를 제시합니다. SPD는 APD보다 크고 복잡한 모델을 분해할 수 있으며, 학습된 매개변수의 축소와 같은 문제점을 피하고, 장난감 모델에서 실제 메커니즘을 더 잘 식별하는 것을 보여줍니다. 인과 매개 분석과 네트워크 분해 방법을 연결함으로써, 대규모 모델에 대한 선형 매개변수 분해 방법의 확장성 문제를 해결하여 기계적 해석 가능성에 대한 새로운 연구 가능성을 제시합니다. SPD를 실행하고 실험을 재현할 수 있는 라이브러리를 공개했습니다 (https://github.com/goodfire-ai/spd/tree/spd-paper).
