본 논문은 AI 활용 여부 결정에 있어 대조적 사실(counterfactual)의 중요성을 강조한다. AI 사용 여부에 따른 결정 결과를 비교 분석하여, AI 사용으로 인한 부정적 결과(counterfactual misses)는 의사결정자에게 과도한 불이익을 초래할 수 있으며, AI 사용으로 인한 긍정적 결과(counterfactual hits)는 기대 이상의 이익을 가져다주지 않을 수 있다는 점을 지적한다. 논문은 대조적 사실을 기대 효용 평가에 포함하는 방법을 제시하고, 이를 통해 AI 사용의 기대 효용이 의도된 수혜자에게는 긍정적이지만, 이해관계자와 배포 의사결정자에게는 강하게 부정적일 수 있음을 보여준다. 또한, AI와 사용자의 평가가 유익하게 통합되는 높은 수준의 상호보완성은 이해관계자에게 상당한 불이익을 초래할 수 있으며, 사용자와 AI의 상호작용 방식의 작은 변화가 이해관계자의 효용에 큰 영향을 미칠 수 있음을 밝힌다. 전문가의 과신이나 사후편향과 같은 인지적 편향은 비용이 많이 드는 대조적 사실 오류의 빈도를 과대평가하는 결과를 가져온다. 본 논문에서 제시된 기대 효용 평가 접근 방식은 AI 개발자와 배포 의사결정자가 대조적 사실의 미묘하지만 상당한 영향을 잘 헤쳐나가도록 하여 유익한 AI 기능이 사용되도록 하는 것을 목표로 한다.
