FairPO는 다중 레이블 분류에서 공정성을 증진시키기 위해 그룹 강건성 관점에서 선호 신호를 직접 최적화하는 새로운 프레임워크입니다. 레이블 집합을 특권 그룹과 비특권 그룹으로 분할하고, Direct Preference Optimization (DPO)에서 영감을 받은 선호 기반 손실을 사용하여 특권 그룹 내에서 진짜 양성 레이블과 혼란스러운 음성 레이블을 보다 효과적으로 구분하는 동시에 비특권 레이블에 대한 기준 분류 성능을 유지합니다. 그룹에 대한 강건한 최적화로 학습 문제를 구성함으로써, 성능이 저조한 그룹에 대한 훈련 강조를 동적으로 조정하여 편향을 완화하고 다양한 레이블 범주에서 더 공정한 처리를 보장합니다. 향후 Simple Preference Optimisation (SimPO) 및 Contrastive Preference Optimization (CPO)과 같은 대체 손실 공식을 조사하여 참조 없는 보상 공식 및 대조 학습 신호를 활용하고, 모호한 입력에 대해 다양하고 일관된 레이블 집합을 동적으로 생성할 수 있도록 다중 레이블 생성 기능을 추가할 계획입니다.
