본 논문은 현재 또는 미래의 AI 시스템이 고통이나 즐거움과 같은 정성적 경험(qualia)을 가질 가능성을 탐구하는 가설적 질문을 제기합니다. AI 시스템이 언젠가 정성적 경험을 가질 수 있다는 가정하에, 이러한 주관적 경험의 질을 성능 지표와 함께 고려해야 한다는 점을 강조합니다. 강화 학습 공식과 마음철학 이론에서 영감을 얻은 구체적인 수학적 문제 설정을 제안하고, 초기 접근 방식과 속성을 제시합니다. 이러한 속성을 통해 문제 설정을 개선하고, 강화를 촉진하는 방법을 제안합니다.
