본 논문은 대규모 언어 모델 (LLM)의 파라미터를 수정하지 않고 제어하는 유망한 접근법인 스티어링에 초점을 맞추고 있다. 기존 스티어링 방법은 명확한 행동 정보를 학습하기 위해 대규모 데이터셋에 의존하지만, 소규모 데이터셋으로 학습된 스티어링 벡터는 태스크와 관련 없는 노이즈 특징을 포함하여 효과가 떨어진다. 이를 해결하기 위해 본 논문은 희소 오토인코더 (SAE)를 사용하여 스티어링 벡터를 의미적으로 디노이즈하고 증강하는 SAE-RSV (Refinement of Steering Vector via Sparse Autoencoder)를 제안한다. SAE를 통해 태스크 관련 없는 특징을 제거하고, 소규모 데이터셋에서 누락된 태스크 관련 특징을 식별된 관련 특징과의 의미적 유사성을 기반으로 보강한다. 실험 결과, 제안된 SAE-RSV가 지도 학습 기반 파인튜닝을 포함한 모든 기준 방법보다 우수한 성능을 보였다. SAE를 통해 원래 스티어링 벡터를 정제함으로써 제한된 훈련 데이터로부터 효과적인 스티어링 벡터를 구축할 수 있음을 보여준다.
