본 논문은 지시어 튜닝(Instruction Tuning, IT) 기반의 대규모 언어 모델(LLM)이 훈련 데이터에서 학습한 잘못된 또는 편향된 특징을 활용하여 원치 않는 동작을 유발하는 문제를 해결하기 위해, 초점 지시어 튜닝(Focus Instruction Tuning, FIT)을 제안합니다. FIT는 특정 특징에 집중하고 다른 특징은 무시하도록 LLM을 훈련하여, 지정된 특징에 따라 다른 동작을 유도합니다. 다양한 벤치마크를 통해 FIT가 추론 시 동작을 성공적으로 제어하고, 핵심 작업 신호를 증폭하고 잘못된 단서를 감소시켜 강건성을 높이며, 인구 통계적 속성을 억제하여 사회적 편향을 완화하고, 분포 변화 및 이전에 보지 못한 초점 특징에 대해 일반화되는 것을 보여줍니다. 따라서 FIT는 더욱 강건하고 공정하며 쉽게 제어 가능한 LLM을 구축하기 위한 경량의 내재적 메커니즘을 제공합니다.
