Tsetlin Machine(TM)은 명제 논리 기반 모델로, 결합 조항을 사용하여 데이터에서 패턴을 학습합니다. 일반적인 신경망과 마찬가지로 TM의 성능은 매개변수 수에 크게 의존하며, 매개변수가 많을수록 정확도는 높아지지만 실행 속도는 느려집니다. 본 논문은 신경망의 지식 증류 기법을 TM에 적용하는 새로운 방법을 제안합니다. 이는 teacher TM의 각 출력 샘플의 확률 분포를 활용하여 student TM에 추가적인 context를 제공하는 방식입니다. 또한, teacher TM의 각 조항의 중요도를 가중치로 부여하여 가장 중요한 데이터만으로 student TM을 초기화하는 새로운 조항 전달 알고리즘을 제안합니다. 실험 결과, 제안된 알고리즘은 이미지 인식 및 텍스트 분류 작업에서 student TM의 성능을 크게 향상시키면서 지연 시간에는 부정적인 영향을 미치지 않는 것으로 나타났습니다.
