본 논문은 인간-AI 협업에서 AI가 작업을 수행할지, 인간 전문가에게 위임할지, 협업할지를 결정하는 문제를 다룹니다. 기존의 Learning to Defer 접근 방식은 AI와 인간의 상호 보완적인 강점을 무시하고 AI와 인간 중 이분법적인 선택만을 하며 해석 가능성이 부족한 한계를 지닙니다. 이러한 한계를 극복하기 위해, 본 논문은 해석 가능한 개념 표현을 기반으로 전략적 결정을 내리는 개념 기반 인간-AI 협업 프레임워크인 DeCoDe(Defer-and-Complement Decision-Making via Decoupled Concept Bottleneck Models)를 제안합니다. DeCoDe는 자율적인 AI 예측, 인간에게 위임, 인간-AI 협업 보완의 세 가지 유연한 모드를 지원하며, 정확도와 인간의 노력을 균형 있게 고려하는 새로운 대리 손실 함수를 사용하여 훈련된 게이팅 네트워크를 통해 모드를 선택합니다. 실제 데이터셋을 사용한 실험 결과, DeCoDe는 AI 전용, 인간 전용, 기존 위임 기준 모델보다 성능이 뛰어나며, 노이즈가 있는 전문가 주석 하에서도 강력한 견고성과 해석 가능성을 유지함을 보여줍니다.
