Explainable LLM Unlearning Through Reasoning

Created by

Haebom

저자

Junfeng Liao, Qizhou Wang, Shanshan Ye, Xin Yu, Ling Chen, Zhen Fang

💡 개요

LLM unlearning은 안전, 저작권, 개인정보 보호 문제를 해결하는 데 필수적이지만, 기존 방법들은 일반 능력 저하, 불완전한 지식 제거, 비일관적인 응답 생성 등의 문제를 야기합니다. 본 논문은 이러한 문제를 해결하기 위해 모델이 무엇을, 어떻게 unlearn 해야 하는지에 대한 명시적인 지침이 부족하다는 점에 주목합니다. 이를 해결하고자, 제안된 TRU(Targeted Reasoning Unlearning) 방법론은 명확한 unlearning 범위와 unlearning 후 응답을 모두 만족시키는 '추론 기반 unlearning 타겟'을 활용하여, 정확한 지식 제거와 관련 능력 보존을 동시에 달성합니다.

🔑 시사점 및 한계

•

명확한 unlearning 타겟 기반의 정확한 지식 제거: 추론 기반 unlearning 타겟을 통해 모델이 특정 지식을 정확하게 제거하고, 동시에 다른 관련 능력은 보존하도록 유도합니다.

•

설명 가능하고 신뢰할 수 있는 LLM unlearning 패러다임 제시: 추론 능력을 강화한 unlearning 방식을 통해 신뢰도 높은 unlearning 결과를 얻을 수 있으며, 이는 unlearning 과정에 대한 설명 가능성을 높입니다.

•

다양한 공격 시나리오에서의 우수한 강건성 확보: 추론 능력은 다양한 공격 시나리오에서도 모델의 unlearning 효과를 유지하는 데 기여합니다.

•

한계점: 제안된 TRU 방법론의 효율성을 더 넓은 범위의 LLM 아키텍처와 복잡한 unlearning 요구사항에 대해 추가적으로 검증할 필요가 있습니다. 또한, 추론 기반 타겟 생성 과정 자체의 계산 효율성 및 복잡성에 대한 연구도 필요할 수 있습니다.

PDF 보기

Made with Slashpage