본 논문은 대규모 언어 모델(LLM), 특히 소규모 LLM의 추론 능력 취약성을 해결하기 위한 새로운 접근 방식을 제시합니다. 기존 연구들이 분포 변화에 대한 LLM의 취약성을 해결하기 위해 합성 데이터 생성을 통해 추론 문제를 다양화하는 데 집중한 것과 달리, 본 논문은 추론 문제를 추상화하는 방법에 초점을 맞춥니다. 이를 통해 분포 변화에 대한 저항력을 높일 뿐만 아니라 기호적 도구를 이용한 해결책 도출을 용이하게 합니다. 연구 결과, 강화 학습(RL)을 통한 추상화 학습이 지도 학습 기반 미세 조정보다 훨씬 효과적임을 보여주며, 제안하는 방법인 AbstRaL은 최근 GSM perturbation 벤치마크에서 성능 저하를 크게 완화합니다.
