본 연구는 인센티브가 부여된 실험을 통해 경제적 의사결정 상황에서 사람들이 생성형 인공지능(GenAI)의 정렬(alignment)을 어떻게 인식하는지 연구합니다. 위험, 시간 선호, 사회적 선호, 전략적 상호작용 등 여러 경제적 문제를 다루는 패널을 사용하여, 인간 피험자들에게 자신을 위한 선택을 하고 인간 사용자를 대신하여 GenAI가 할 선택을 예측하도록 요청했습니다. 그 결과, 사람들은 GenAI의 선택과 인간의 선택 사이의 정렬 정도를 과대평가하는 것으로 나타났습니다. 모든 문제에서 인간 피험자들의 GenAI 선택에 대한 평균 예측은 GenAI 선택보다 평균 인간 피험자 선택에 훨씬 더 가까웠습니다. 개인 수준에서 특정 문제에 대한 GenAI 선택에 대한 피험자들의 예측은 동일한 문제에 대한 자신의 선택과 높은 상관관계를 보였습니다. 간단한 이론적 모델을 통해 GenAI 정렬 과대평가의 함의를 탐구했습니다.
