본 논문은 대규모 추론 모델(LRM)의 안전성 향상을 위한 새로운 방법인 SAFEPATH를 제안합니다. SAFEPATH는 유해한 프롬프트에 대해 모델이 추론 시작 시 8토큰 길이의 안전 프라이머를 생성하도록 미세 조정하는 경량 방식을 사용합니다. 기존 안전 정렬 방법들이 추론 깊이 저하라는 단점을 가지는 것과 달리, SAFEPATH는 유해한 출력을 줄이면서 추론 성능을 유지합니다. 다양한 벤치마크 결과를 통해 유해 응답을 최대 90.0%까지 감소시키고, 83.3%의 탈옥 시도를 차단하는 효과를 보이며, 기존 방법들보다 훨씬 적은 연산량을 필요로 함을 보여줍니다. 또한, 미세 조정이 필요 없는 제로샷 변형도 제시하며, 기존 LLM 방법들이 추론 중심 모델에 적용될 때의 일반화 여부를 분석하여 안전한 AI를 위한 새로운 방향을 제시합니다.
