Must Read: A Comprehensive Survey of Computational Persuasion
Created by
- Haebom
Category
Empty
저자
Nimet Beyza Bozdag, Shuhaib Mehri, Xiaocheng Yang, Hyeonjeong Ha, Zirui Cheng, Esin Durmus, Jiaxuan You, Heng Ji, Gokhan Tur, Dilek Hakkani-Tur
💡 개요
본 논문은 대화형 AI 시스템의 발전과 함께 중요성이 커지고 있는 계산적 설득(computational persuasion) 분야를 포괄적으로 탐구하는 설문 연구입니다. AI가 설득하는 주체(persuader), 설득의 대상(persuadee), 그리고 설득을 평가하는 판사(judge)로서의 역할을 세 가지 관점에서 분석하며, AI 기반 설득의 잠재적 이점과 위험성을 조명합니다. 이를 통해 AI 기반 설득의 안전성, 공정성, 효과성을 향상시키기 위한 미래 연구 과제와 도전 과제를 제시합니다.
🔑 시사점 및 한계
•
AI는 다양한 분야에서 유익한 설득 도구로 활용될 수 있으나, 동시에 비윤리적인 영향력 행사라는 위험성을 내포하고 있습니다.
•
AI 시스템 자체도 설득의 대상이 될 수 있어, 적대적 공격이나 편향 강화에 취약할 수 있습니다.
•
AI 기반 설득의 효과성에 대한 이해는 아직 부족하며, 주관적이고 맥락 의존적인 특성을 고려한 심도 깊은 연구가 필요합니다.
•
AI 기반 설득의 안전성, 공정성, 효과성을 향상시키고, 고도화되는 언어 모델로 인한 위험을 완화하기 위한 포괄적인 연구 분류 체계 및 미래 연구 방향 설정이 시급합니다.
