CounterQuill: Investigating the Potential of Human-AI Collaboration in Online Counterspeech Writing
Created by
Haebom
저자
Xiaohan Ding, Kaike Ping, Uma Sushmitha Gunturi, Buse Carik, Sophia Stil, Lance T Wilhelm, Taufiq Daryanto, James Hawdon, Sang Won Lee, Eugenia H Rho
개요
본 논문은 온라인 증오 발언에 대한 효과적인 대응책으로 사용자 주도의 반박(counterspeech)을 제시하며, 자동 답변 생성 대신 사용자의 공감 능력 향상을 통해 효과적인 반박문 작성을 돕는 인간-AI 협업 시스템인 CounterQuill을 소개합니다. CounterQuill은 증오 발언과 반박에 대한 학습, 유해 패턴 식별 및 반박 아이디어 구상, 개인의 목소리를 유지하면서 반박 응답을 다듬는 협업적 글쓰기의 세 단계 워크플로우를 통해 작동합니다. 20명의 참가자를 대상으로 한 사용자 연구를 통해 CounterQuill이 참가자들의 반박문 작성 능력과 자신감을 향상시키는 데 효과적임을 보였습니다. 결론적으로, AI 시스템이 구조적이고 사용자 중심적인 워크플로우를 통해 복잡한 의사소통 과제를 지원할 수 있음을 시사합니다.
시사점, 한계점
•
시사점:
◦
AI를 활용하여 온라인 증오 발언에 대한 효과적인 대응 전략을 개발할 수 있음을 보여줌.
◦
사용자 주도의 반박(counterspeech)이 온라인 증오 발언 문제 해결에 효과적인 접근법임을 제시함.
◦
인간-AI 협업 시스템을 통해 사용자의 공감 능력과 반박문 작성 능력을 향상시킬 수 있음을 확인함.
◦
AI 시스템이 사용자 교육을 통해 복잡한 의사소통 과제를 지원하는 데 활용될 수 있음을 보여줌.
•
한계점:
◦
사용자 연구의 참가자 수가 제한적(N=20)임.
◦
CounterQuill 시스템의 일반화 가능성 및 다양한 유형의 온라인 증오 발언에 대한 효과성에 대한 추가 연구가 필요함.
