본 논문은 텍스트-이미지 확산 모델의 성별 등 특정 인구 통계학적 그룹에 대한 편향 문제를 해결하는 것을 목표로 한다. FairGen이라는 적응형 잠재 가이드 메커니즘을 제안하여 생성 품질을 유지하면서 추론 과정에서 특정 속성에 대한 생성을 제어한다. FairGen은 잠재 가이드 모듈과 메모리 모듈을 활용하여 편향을 완화한다. 또한, 다양한 도메인과 복잡한 프롬프트를 포함하는 Holistic Bias Evaluation (HBE) 벤치마크를 도입하여 기존 데이터세트의 한계를 극복한다. FairGen은 HBE 및 Stable Bias 데이터세트에서 기존 편향 완화 접근 방식보다 우수한 성능을 보이며, 사용자 지정 가능한 세분성으로 출력을 제어하여 적응적이고 표적화된 편향 완화를 보장한다.
시사점, 한계점
•
시사점:
◦
FairGen은 확산 모델에서 특정 속성 값에 대한 편향을 효과적으로 줄이는 새로운 방법론을 제시한다.
◦
Holistic Bias Evaluation (HBE) 벤치마크를 통해 편향 평가의 범위를 확장하고 정확성을 높였다.
◦
FairGen은 기존 방법론보다 우수한 성능을 보이며, 사용자 정의 가능한 제어를 통해 유연성을 제공한다.
