본 논문은 전략적 행위자(예측 모델에 대한 설명에 반응하여 입력을 수정할 수 있는 개인)를 고려한 알고리즘 의사결정에서의 설명 설계를 연구합니다. 투명한 알고리즘 시스템에 대한 요구가 증가함에 따라, 대부분의 이전 연구는 완전한 모델 공개를 기본 솔루션으로 가정했습니다. 그러나 실제로 금융 기관과 같은 의사결정자(DM)는 설명을 통해 부분적인 모델 정보만 공개하는 경우가 많습니다. 이러한 부분적 공개는 행위자가 모델을 잘못 해석하고 자신도 모르게 자신의 효용에 해를 끼치는 행동을 하도록 유도할 수 있습니다. 주요 미해결 문제는 DM이 전략적 행위자에게 해를 끼치지 않으면서도 예측 오류 최소화와 같은 자신의 의사결정 목표를 지원하는 방식으로 설명을 전달하는 방법입니다. 본 논문에서는 잘 알려진 설명 방법을 분석하고 설명이 행위자를 자해 행위로 오도하는 것을 방지하기 위한 필요조건을 설정합니다. 또한 조건부 동질성 가정 하에서, 행동 권장 기반 설명(ARexes)이 해롭지 않은 반응에 충분하며 정보 설계의 계시 원칙을 반영한다는 것을 증명합니다. ARexes를 실제로 어떻게 운영할 수 있는지 보여주기 위해, 예측 모델과 설명 정책을 공동으로 최적화하는 간단한 학습 절차를 제안합니다. 합성 및 실제 작업에 대한 실험을 통해 ARexes를 사용하면 DM이 모델의 예측 성능을 최적화하면서 행위자의 효용을 보존하여 안전하고 효과적인 부분적 모델 공개를 위한 보다 정교한 전략을 제공할 수 있음을 보여줍니다.
