Gazing at Rewards: Eye Movements as a Lens into Human and AI Decision-Making in Hybrid Visual Foraging
Created by
Haebom
Category
Empty
저자
Bo Wang, Dingwei Tan, Yen-Ling Kuo, Zhaowei Sun, Jeremy M. Wolfe, Tat-Jen Cham, Mengmi Zhang
개요
본 논문은 다양한 가치와 빈도를 가진 여러 종류의 목표물을 찾는 혼합된 탐색 과제(예: 동전 찾기)에서 인간의 탐색 및 안구 운동 행동을 연구합니다. 실험 결과, 인간은 보상을 효율적으로 탐색하며, 시선은 평균 보상이 높은 영역에 집중되고, 가치가 높은 목표물에 더 오래 머무르며, 최적의 탐색자에 근접한 누적 보상을 얻는다는 것을 밝혔습니다. 이러한 의사결정 과정을 탐구하기 위해 강화 학습을 통해 훈련된 트랜스포머 기반 시각적 탐색자(VF) 모델을 개발했습니다. VF 모델은 다양한 목표물, 가치, 검색 이미지를 입력으로 받아, 주시 영역 시각을 사용하여 이미지를 처리하고, 일련의 안구 운동과 각 고정된 항목을 수집할지 여부에 대한 결정을 생성합니다. VF 모델은 기준 모델들을 능가하고, 인간과 비슷한 누적 보상을 달성하며, 시간 제약 환경 내에서 인간의 탐색 행동과 편향을 근사합니다. 또한, 새로운 목표물, 보이지 않는 가치, 다양한 집합 크기를 가진 분포 외 과제에 대한 스트레스 테스트를 통해 VF 모델의 효과적인 일반화 능력을 보여줍니다. 본 연구는 안구 운동과 의사결정 간의 관계에 대한 귀중한 통찰력을 제공하며, VF 모델은 이러한 관계에 대한 추가 탐구를 위한 강력한 도구 역할을 합니다. 모든 데이터, 코드 및 모델은 https://github.com/ZhangLab-DeepNeuroCogLab/visual-forager 에서 이용 가능합니다.