Amortized Latent Steering (ALS)는 추론 비용을 획기적으로 줄여주는 새로운 test-time optimization 방법론입니다. 기존의 반복적 최적화 방식의 단점을 보완하여, 오프라인에서 계산된 단일 벡터를 활용하여 추론 시 고정 비용으로 모델의 은닉 표현을 조정합니다. ALS는 성공적인 생성과 실패한 생성 사이의 은닉 상태 차이의 평균을 계산하고, 이 방향을 사용하여 모델의 은닉 표현을 보정합니다. GSM8K 및 MATH-500 벤치마크에서 ALS는 반복적 방법보다 2-5배 속도를 향상시키면서, greedy Chain-of-Thought (CoT) 및 Self-Consistency baseline과 동등하거나 더 나은 성능을 달성했습니다.
