본 논문은 알고리즘 의사결정 시스템의 공정성 연구가 보석 또는 대출 승인과 같은 복잡한 의사결정 과정을 이분법적 분류 작업으로 단순화하는 경향이 있음을 지적합니다. 그러나 이러한 접근 방식은 이러한 결정이 본질적으로 이분법적이지 않으며 (예: 보석 또는 대출 승인 또는 거부), 하류 결과(예: 대출 상환 또는 재범)에 영향을 미칠 수 있는 비이분법적 처우 결정(예: 보석 조건 또는 대출 조건)도 포함한다는 점을 간과합니다. 본 논문에서는 비이분법적 처우 결정이 의사결정 과정에 필수적이며 의사결정자에 의해 통제되므로 알고리즘 의사결정의 공정성 분석에서 중심적인 역할을 해야 한다고 주장합니다. 의사결정 주체의 공변량과 처우 결정을 명시적으로 구분하는 인과적 프레임워크를 제안합니다. 이를 통해 의사결정자는 (i) 과거 데이터에서 처우 불균형과 그 하류 효과를 측정하고, 반사실적 추론을 사용하여 (ii) 의사결정 자동화 시 과거 불공정 처우 결정의 영향을 완화할 수 있습니다. 본 연구에서는 제안된 프레임워크를 사용하여 널리 사용되는 네 가지 대출 승인 데이터 세트를 경험적으로 분석하여 비이분법적 처우 결정의 잠재적 불균형과 결과에 대한 차별적 영향을 밝히고 공정성 평가에 처우 결정을 통합해야 할 필요성을 강조합니다. 또한 처우 결정에 개입함으로써, 본 프레임워크가 과거 데이터에서 처우 차별을 효과적으로 완화하여 공정한 위험 점수 추정 및 모든 이해 관계자에게 이익이 되는 (비이분법적) 의사결정 과정을 보장한다는 것을 보여줍니다.
