From Lived Experience to Insight: Unpacking the Psychological Risks of Using AI Conversational Agents
Created by
Haebom
저자
Mohit Chandra, Suchismita Naik, Denae Ford, Ebele Okoli, Munmun De Choudhury, Mahsa Ershadi, Gonzalo Ramos, Javier Hernandez, Ananya Bhattacharjee, Shahed Warreth, Jina Suh
개요
본 논문은 AI 대화형 에이전트 사용과 관련된 심리적 위험에 초점을 맞춘 새로운 위험 분류 체계를 제시합니다. 기존 연구들이 AI 관련 위험의 하위 범주로 심리적 위험을 다루는 데 그쳤던 점을 보완하고자, 283명의 정신 건강 경험자를 대상으로 한 설문조사와 전문가 워크숍을 통해 실제 경험에 기반한 분류 체계를 개발했습니다. 이 체계는 19가지 AI 행동, 21가지 부정적 심리적 영향, 15가지 개인적 맥락을 포함하며, AI 행동, 심리적 영향, 개인적 맥락 간의 복잡한 상호작용을 이해하기 위한 다중 경로 비네트 기반 프레임워크도 제시합니다. 마지막으로, 워크숍 피드백을 바탕으로 더 안전하고 견고한 AI 에이전트 개발을 위한 디자인 권고안을 제시합니다.
시사점, 한계점
•
시사점:
◦
AI 대화형 에이전트 사용의 심리적 위험에 대한 깊이 있는 이해 제공
◦
실제 경험에 기반한 새로운 심리적 위험 분류 체계 제시
◦
AI 행동, 심리적 영향, 개인적 맥락 간 상호작용 이해를 위한 새로운 프레임워크 제시
◦
정책 입안자, 연구자, 개발자를 위한 실질적인 디자인 권고안 제시
•
한계점:
◦
설문조사 및 워크숍 참여자의 특정 집단(정신 건강 경험자)에 대한 편향 가능성 존재
◦
제시된 분류 체계 및 프레임워크의 일반화 가능성에 대한 추가 연구 필요
◦
다양한 유형의 AI 대화형 에이전트에 대한 심리적 위험의 일반화 가능성에 대한 추가 연구 필요
