본 논문은 대규모 AI 모델(언어 모델, 비전-언어 모델, 추론 모델)에서 일반적인 개념의 선형 표현을 추출하는 효과적이고 확장 가능한 접근 방식을 제시합니다. 최근 기능 학습의 발전을 기반으로, 이러한 표현을 이용하여 모델 조향(model steering)을 통해 취약점을 노출하고, 잘못 정렬된 행동을 완화하며, 모델 성능을 향상시킬 수 있음을 보여줍니다. 또한, 개념 표현이 인간 언어 간에 놀라울 정도로 전이 가능하고, 여러 개념을 조합하여 다중 개념 조향이 가능함을 보여줍니다. 수백 개의 개념에 대한 정량적 분석을 통해, 최신 대규모 모델이 더욱 조향 가능하며, 조향이 표준 프롬프트를 넘어 모델 성능을 향상시킬 수 있음을 밝힙니다. 개념 표현을 사용하여 잘못 정렬된 콘텐츠(환각, 유해 콘텐츠)를 모니터링하는 데 효과적이며, 개념 표현을 사용하여 구축된 예측 모델이 출력을 직접 판단하는 모델보다 잘못 정렬된 콘텐츠 모니터링에 더 정확함을 보여줍니다. 결론적으로, 내부 표현을 사용하여 AI 모델의 지식을 매핑하고, AI 안전을 향상시키며, 모델 성능을 향상시키는 방법을 제시합니다.
