Information Gain-Guided Causal Intervention for Autonomous Debiasing Large Language Models
Created by
Haebom
저자
Zhouhao Sun, Xiao Ding, Li Du, Yunpeng Xu, Yixuan Ma, Yang Zhao, Bing Qin, Ting Liu
개요
본 논문은 최근 대규모 언어 모델(LLM)들이 데이터셋의 편향을 학습하고 추론 과정에서 이를 활용하여 일반화 성능이 저하되는 문제를 해결하기 위해, 정보 이론과 인과 메커니즘을 결합한 새로운 탈편향 프레임워크인 정보 이득 기반 인과 개입 탈편향(ICD) 프레임워크를 제안합니다. ICD 프레임워크는 지시어 미세 조정 데이터셋 내 편향이 답변 예측에 추가적인 정보를 제공하지 않도록, 즉 편향의 정보 이득이 0이 되도록 인과 개입 기반 데이터 재작성 방법을 사용하여 데이터셋의 분포를 자동으로 균형 있게 조정합니다. 그 후, 탈편향된 데이터셋으로 LLM을 표준 지도 학습 방식으로 미세 조정합니다. 실험 결과, ICD는 LLM의 편향을 효과적으로 제거하여 다양한 작업에서 일반화 성능을 향상시키는 것으로 나타났습니다.
시사점, 한계점
•
시사점:
◦
정보 이론과 인과 메커니즘을 결합한 새로운 탈편향 프레임워크를 제시하여 기존 방법의 한계를 극복.
◦
인과 개입 기반 데이터 재작성을 통해 데이터셋의 편향을 자동으로 제거하는 효율적인 방법 제시.
