본 논문은 대규모 언어 모델(LLM)의 행동을 재훈련이나 미세 조정 없이 변화시키는 방법을 제시한다. 특히, 변환기의 잔차 스트림을 적절히 구성된 "조향 벡터"를 이용하여 편집하는 방식을 통해 내부 신경 활성화를 수정하는 표현 공학의 한 형태를 사용한다. 본 연구는 행동적 방법(특히, MCMC를 사용한 LLM)을 통해 유도된 잠재적 표현을 신경적 표현과 정렬하여 조향 벡터를 체계적으로 찾는 원칙적인 접근 방식을 제안한다. LLM에서 잠재적 위험 선호도를 추출하고 정렬된 표현을 조향 벡터로 사용하여 위험 관련 출력을 조절하는 실험을 통해 제안된 방법의 효과성과 신뢰성을 검증한다.
