Masked Diffusion Models (MDMs)의 토큰 생성 시 unmasking 순서가 성능에 미치는 영향에 주목하여, Lookahead Unmasking (LookUM)을 제안합니다. 이 방법은 전체 unmasking 순서에 대한 경로 선택을 통해 오류를 최소화하며, 추가적인 테스트 시간 계산을 활용합니다. LookUM은 경로 생성기와 검증기를 사용하여 불확실성이 높은 경로를 피하고, 수학, 계획, 코딩 등 다양한 벤치마크에서 일관된 성능 향상을 보입니다. 특히 LLaDA 및 post-trained LLaDA 1.5에서 RL 튜닝된 모델에 필적하거나 능가하는 성능을 보이며, 강화 학습과 무관하게 불확실성 기반 검증의 이점을 보여줍니다.
