본 논문은 대규모 언어 모델(LLM)의 안전성 향상을 위한 새로운 전략인 제약된 지식 언러닝(CKU)을 제안합니다. 기존의 안전 방어 메커니즘이 유해한 지식을 완전히 제거하지 못하는 한계를 극복하기 위해, CKU는 유용한 지식을 보존하면서 유해한 지식을 제거하는 데 중점을 둡니다. 이는 특정 다층 퍼셉트론(MLP) 층의 뉴런을 점수 매기고 유용한 지식과 관련된 뉴런의 부분집합 U를 식별하여, 언러닝 과정에서 U의 뉴런 기울기를 가지치기함으로써 달성됩니다. 실험 결과, CKU는 모델의 안전성을 크게 향상시키면서 전체 성능을 저해하지 않아 기존 방법보다 안전성과 유용성 간의 균형을 더 잘 맞춘다는 것을 보여줍니다. 또한 다양한 MLP 층에서의 뉴런 지식 민감도 분석을 통해 안전 정렬 및 모델 지식 편집의 메커니즘에 대한 귀중한 통찰력을 제공합니다.
