Existing Large Language Model Unlearning Evaluations Are Inconclusive
Created by
Haebom
저자
Zhili Feng, Yixuan Even Xu, Alexander Robey, Robert Kirk, Xander Davies, Yarin Gal, Avi Schwarzschild, J. Zico Kolter
개요
본 논문은 대규모 언어 모델에서 민감하거나 원치 않는 데이터를 제거하는 머신 언러닝의 평가 방식에 대한 중요한 한계점을 지적한다. 기존 연구들은 언러닝이 표면적이며 제거된 지식이 쉽게 복구될 수 있다고 주장하지만, 본 논문은 평가 과정에서 새로운 정보가 모델에 주입되거나, 과제에 따라 평가 결과가 크게 달라지거나, 허위 상관관계에 의존하는 등의 문제점을 제시한다. 이러한 문제점들은 기존 평가 프로토콜이 언러닝 성공 여부를 과대 또는 과소 평가할 수 있음을 시사한다. 따라서, 본 논문은 미래의 언러닝 평가를 위한 두 가지 원칙(최소 정보 주입 및 하류 과제 인식)을 제안하고, 실험을 통해 이 원칙들의 위반이 오해의 소지를 불러일으킬 수 있음을 보여준다.
시사점, 한계점
•
시사점:
◦
기존 머신 언러닝 평가 방식의 심각한 한계점을 밝힘으로써, 기존 연구 결과에 대한 신뢰성에 의문을 제기한다.
◦
언러닝 평가를 위한 새로운 원칙(최소 정보 주입 및 하류 과제 인식)을 제시하여 향후 연구 방향을 제시한다.
