본 논문은 인공지능과 관련된 기술 발전에도 불구하고, 사용자 또는 협력자의 비효율적인 행동 예측 및 추론의 중요성을 강조합니다. 특히, 이러한 행동이 비합리성 때문이 아니라 인지적 한계와 편향된 믿음으로 인한 합리적인 결정일 수 있음을 지적합니다. 논문에서는 인지적 한계 내에서 편향된 믿음을 가지고 최적으로 행동하는 계산적-합리적(CR) 사용자 모델을 공식적으로 소개합니다. 핵심은 제한된 기억 과정이 동적으로 일관되지 않고 편향된 믿음 상태를 유발하여 결과적으로 비효율적인 순차적 의사 결정을 이끌어내는 방식을 명시적으로 모델링하는 것입니다. 또한, 잠재적인 사용자별 한계를 식별하고 수동 관찰을 통해 편향된 믿음 상태를 추론하는 문제를 해결합니다. 이를 위해, 중첩 입자 필터링을 기반으로 한 효율적인 온라인 추론 방법을 제안하여 사용자의 잠재적 믿음 상태를 동시에 추적하고 관찰된 일련의 행동으로부터 알려지지 않은 인지적 한계를 추정합니다. 메모리 감쇠를 인지적 한계의 예로 사용하여 대표적인 탐색 작업에서 접근 방식을 검증합니다. 시뮬레이션을 통해 CR 모델이 다양한 수준의 메모리 용량에 해당하는 직관적으로 타당한 행동을 생성하고, 제안된 추론 방법이 제한된 관찰(≤100단계)로부터 실제 인지적 한계를 정확하고 효율적으로 복구함을 보입니다. 나아가, 이 접근 방식이 사용자의 기억 제한을 고려하는 적응형 지원을 가능하게 하여 적응형 AI 보조 장치를 개발하기 위한 원칙적인 기반을 제공한다는 것을 보여줍니다.
