Beyond Hidden-Layer Manipulation: Semantically-Aware Logit Interventions for Debiasing LLMs
Created by
Haebom
Category
Empty
저자
Wei Xia
개요
본 논문은 Static과 Dynamic, 두 가지 제로샷 로짓-레이어 디바이어싱 방법을 제안합니다. Dynamic 방법은 최소한의 유창성 손실로 최대 70%까지 편향을 줄입니다. 로짓 개입은 은닉 레이어 접근 방식을 능가하며, 의미 인식 로짓 개입은 정렬된 LLM의 디바이어싱에 안정적이고 효과적임을 보입니다.
