본 논문은 대규모 언어 모델(LLM)의 미세 조정 과정에서 발생하는 의도치 않은 분포 외 일반화 문제를 해결하기 위한 새로운 기법인 개념 제거 미세 조정(CAFT)을 제안합니다. 기존의 접근 방식은 훈련 데이터를 수정하는 데 의존하지만, CAFT는 해석 가능성 도구를 활용하여 훈련 데이터를 수정하지 않고도 LLM의 일반화 방식을 제어합니다. 원하지 않는 개념에 해당하는 LLM의 잠재 공간 내 방향 벡터들을 선형 투영을 통해 제거함으로써, 의도하지 않은 일반화로부터 모델을 멀리하게 합니다. 본 연구는 CAFT를 세 가지 미세 조정 작업에 적용하여, 좁은 작업에 미세 조정된 LLM이 일반적인 질문에 대해 심각하게 잘못 정렬된 응답을 생성하는 출현 오정렬 현상을 포함한 문제를 해결했습니다. 훈련 데이터 변경 없이도 CAFT는 잘못 정렬된 응답을 10배 감소시키면서 훈련 분포에 대한 성능 저하 없이 효과를 보였습니다.
