본 논문은 생성형 AI(GenAI) 모델 배포 시 발생하는 공정성 문제를 해결하기 위해 GenAI에 특화된 새로운 특성화 및 적용 기술을 제시한다. 기존의 특정 작업을 수행하는 AI와 달리 GenAI의 광범위한 기능성은 생성되는 맥락에 맞춰 조건부 공정성(예: 빈곤층과 성공한 사업가의 이미지 생성에서 인구 통계적 공정성)을 필요로 한다. 논문에서는 두 가지 수준의 공정성을 정의한다. 첫 번째는 프롬프트와 모델과 무관하게 생성된 출력의 공정성을 평가하고, 두 번째는 중립적인 프롬프트를 사용한 고유한 공정성을 평가한다. GenAI의 복잡성과 공정성 명세의 어려움을 고려하여 특정 그룹의 외관 간 거리가 미리 설정된 임계값을 초과하는 경우 GenAI 시스템을 불공정하다고 간주하여 최악의 경우를 제한하는 데 중점을 둔다. 또한 교차적 공정성에서 상대적 완전성을 평가하기 위해 조합 테스트를 탐구한다. 최악의 경우를 제한함으로써, 에이전트 기반 프레임워크 내에서 최소한의 개입으로 조건부 공정성을 적용하기 위한 프롬프트 주입 방식을 개발하고, 최첨단 GenAI 시스템에서 검증한다.
