본 논문은 대규모 언어 모델(LLM)의 편향성으로 인한 독성 문제 해결을 위한 새로운 접근 방식인 IRepair를 제시합니다. 기존의 도메인 적응 훈련 방식이 모델의 모든 매개변수를 무차별적으로 수정하여 성능 저하 및 다용성 감소를 초래하는 것과 달리, IRepair는 모델의 오류가 가장 많은 부분만을 선택적으로 수정합니다. 특히, 가장 민감한 계층을 동적으로 분할하여 수정 작업에 집중함으로써, 모델의 전체 성능에 미치는 영향을 최소화하면서 효과적인 수정을 가능하게 합니다. GPT2 및 GPT-Neo 계열의 세 가지 모델을 대상으로 독성 완화 설정에서 실험한 결과, IRepair는 기존의 직접 선호도 최적화 방법보다 오류 수정 효과가 43.6% 높고, 일반 성능 저하가 46% 적은 것으로 나타났습니다. 또한, 모델의 상위 20% 계층에 오류 밀도가 나머지 80%보다 773% 높다는 것을 발견하여 선택적 수정의 필요성을 강조했습니다. 동적 선택 방식이 모델 전체에 분산된 오류를 해결하는 데 필수적임을 보여주었습니다.
