본 논문은 신경망의 내부 동작을 이해하는 어려움을 '블랙박스'라는 관점에서 벗어나, 신경망의 활동 패턴이 훈련 데이터의 규칙성을 반영한다는 '반영 가설(Reflection Hypothesis)'을 제시합니다. 단순 순환 신경망(RNN)과 대규모 언어 모델(LLM)에서 이 현상에 대한 증거를 제시하며, 인지적 '청킹(chunking)' 개념을 활용하여 고차원 신경 집단 역동성을 해석 가능한 단위로 분할하는 세 가지 방법(DSC, PA, UCD)을 제안합니다. 이 방법들은 레이블 유무와 신경 데이터 차원에 따라 상호 보완적으로 작동하며, 모델 구조에 관계없이 개념을 암호화하는 단위(단어, 추상적 개념, 구조적 스키마 등)를 추출합니다. 추출된 청크가 신경망 행동에 인과적 역할을 한다는 것을 보여주며, 블랙박스로 여겨지는 복잡한 학습 시스템의 이해를 향상시키는 새로운 해석 가능성 접근법을 제시합니다.
