본 논문은 기계 학습 모델의 해석 가능성 연구에서 단순한 장난감 과제의 회로 분석과 대규모 모델의 특징 발견 사이의 간극을 해소하기 위해, 형식적인 구조와 실제 세계의 복잡성을 결합한 text-to-SQL 생성 과제를 제안합니다. 기본적인 SQL 연산부터 고급 연산까지 다양한 수준의 합성 데이터셋 TinySQL을 소개하고, 33M에서 1B 매개변수에 이르는 다양한 모델을 학습시켜 해석 가능성을 위한 포괄적인 테스트베드를 구축합니다. Edge Attribution Patching과 Sparse Autoencoders와 같은 다양한 해석 가능성 기법을 적용하여 SQL 생성을 지원하는 최소 회로와 구성 요소를 식별하고, 서로 다른 SQL 하위 기술에 대한 회로의 최소성, 신뢰성 및 식별 가능성을 평가합니다. 마지막으로, 계층별 로짓 렌즈 분석을 수행하여 의도 인식에서 스키마 해석 및 구조적 생성에 이르기까지 모델이 계층 간에 SQL 쿼리를 구성하는 방법을 밝힙니다. 이 연구는 구조적이고 점진적으로 복잡한 환경에서 해석 가능성 방법을 조사하고 비교하기 위한 견고한 프레임워크를 제공합니다.
