본 논문은 머신러닝 시스템의 널리 퍼진 채택으로 인해 제기된 공정성 및 편향 문제에 대한 해결책을 제시합니다. 컴퓨터 비전 작업에 적용된 신경망에서 유해한 편향 제거와 공정성 개선 간의 관계를 조사합니다. 새로운 XAI 기반 지표를 도입하여 샐리언시 맵을 분석하고 모델의 의사결정 과정의 변화를 평가합니다. 성공적인 편향 제거 방법이 보호된 속성에서 모델의 초점을 체계적으로 전환시킨다는 것을 보여주고, 원래 인공물 제거를 위해 개발된 기술을 공정성을 위해 효과적으로 재사용할 수 있음을 증명합니다. 이러한 결과는 모델이 올바른 이유로 공정하도록 보장하는 것이 중요함을 강조하며, 보다 윤리적이고 신뢰할 수 있는 AI 시스템 개발에 기여합니다.
