본 논문은 대규모 추론 모델(LRMs)의 긴 추론 과정에서 발생하는 높은 지연 시간, 중복성, 비일관성을 해결하기 위해 Mentalese라는 압축된 구조적 토큰을 사용하여 추론하는 프레임워크를 제안한다. SHORTER LENGTH PREFERENCE OPTIMIZATION (SLPO)을 활용하여 정확성을 유지하면서 간결한 솔루션을 장려하며, ORION 모델은 AIME 2024, 2025, MinervaMath, OlympiadBench, Math500, AMC 벤치마크에서 기존 모델 대비 4-16배 적은 토큰, 최대 5배 낮은 추론 지연 시간, 7-9배 감소된 훈련 비용을 달성하면서 90-98%의 정확도를 유지한다. 또한, ORION은 Claude 및 ChatGPT-4o보다 최대 5% 높은 정확도를 보이며 2배 압축을 달성한다.
