Estimating cognitive biases with attention-aware inverse planning
Created by
- Haebom
Category
Empty
저자
Sounak Banerjee, Daphne Cornelisse, Deepak Gopinath, Emily Sumner, Jonathan DeCastro, Guy Rosman, Eugene Vinitsky, Mark K. Ho
개요
본 논문은 사람의 목표 지향적 행동에 영향을 미치는 인지 편향에 주목하며, 자율 시스템이 사람과 상호 작용할 때 이러한 편향을 인식해야 함을 강조한다. 특히, 주의력 편향이 일상적인 작업 수행에 미치는 영향에 주목하여, 행동으로부터 사람의 주의력 편향을 추정하는 '주의력 인식 역계획(attention-aware inverse planning)' 문제를 공식화한다. 딥 강화 학습과 계산 인지 모델링을 결합한 접근 방식을 통해 Waymo Open Dataset의 실제 운전 시나리오에서 RL 에이전트의 주의 전략을 추론하고, 주의력 인식 역계획을 통한 인지 편향 추정의 확장성을 입증한다.
시사점, 한계점
•
시사점:
◦
사람의 인지 편향을 고려하는 자율 시스템 개발의 중요성 제시.
◦
주의력 편향을 행동으로부터 추정하는 새로운 문제 정의 및 해결 방법 제시.
◦
딥 강화 학습과 계산 인지 모델링을 결합한 실용적인 접근 방식 제시.
◦
실제 데이터셋을 활용한 실험을 통해 방법론의 실용성 및 확장성 입증.
•
한계점:
◦
구체적인 한계점은 논문 내용을 통해 확인해야 함 (본 요약에서는 확인 불가).
◦
모델의 일반화 가능성 및 다양한 인지 편향에 대한 적용 가능성에 대한 추가 연구 필요.
◦
실제 환경에서의 시스템 성능 검증 및 안전성 확보에 대한 추가 연구 필요.
