MSRS: Adaptive Multi-Subspace Representation Steering for Attribute Alignment in Large Language Models
Created by
Haebom
Category
Empty
저자
Xinyan Jiang, Lin Zhang, Jiayi Zhang, Qingsong Yang, Guimin Hu, Di Wang, Lijie Hu
개요
MSRS(Multi-Subspace Representation Steering)는 LLM의 내부 활성화를 조작하여 여러 속성을 효과적으로 제어하는 새로운 프레임워크입니다. 속성 간 간섭을 줄이기 위해 각 속성에 직교하는 부분 공간을 할당하고, 하이브리드 부분 공간 구성 전략(속성별 부분 공간과 공유 부분 공간 결합), 동적 가중치 함수를 사용하여 정밀한 제어를 가능하게 합니다. 추론 시에는 토큰 수준의 조작 메커니즘을 사용하여 의미적으로 관련된 토큰에 개입합니다. 실험 결과는 MSRS가 속성 충돌을 줄이고, 기존 방법보다 우수하며 다양한 다운스트림 작업에 효과적으로 적용됨을 보여줍니다.
