본 논문은 Tiny Recursive Models (TRMs)과 같은 소형 루프 구조가 Abstraction and Reasoning Corpus (ARC)와 같은 복잡한 추론 작업에서 대형 언어 모델 (LLMs)보다 성능이 우수하다는 사실에 주목하여, 이러한 모델의 효율성을 최소한의 변경으로 개선하는 방법을 연구한다. 이를 위해 TRMs의 잠재적 추론을 classifier-free guidance와 implicit policy improvement algorithm의 형태로 파악하고, 각 루프에 대한 타겟을 제공하는 새로운 학습 방식을 제안한다. 제안된 방법은 기존 TRMs과 유사한 품질을 유지하면서 총 forward pass 수를 18배 줄이고 halting mechanism을 제거하여 학습 효율성을 크게 향상시켰다. 특히, 0.8M개의 파라미터만으로 ARC-1에서 24%의 정확도를 달성하여 대부분의 LLMs를 능가하는 성능을 보였다.
