Labeling Synthetic Content: User Perceptions of Warning Label Designs for AI-generated Content on Social Media
Created by
- Haebom
Category
Empty
저자
Dilrukshi Gamage, Dilki Sewwandi, Min Zhang, Arosha Bandara
개요
본 연구는 소셜 미디어 플랫폼에서 AI 생성 콘텐츠(예: 딥페이크)에 대한 다양한 경고 라벨 디자인의 효과를 조사했습니다. 감정, 색상/아이콘, 위치, 세부 수준 등의 차원에서 다양한 10가지 라벨 디자인 샘플을 고안하고 평가했습니다. 실험 연구에는 10가지 라벨 디자인과 소셜 미디어 콘텐츠를 평가하는 대조군에 무작위로 배정된 911명의 참가자가 참여했습니다. 콘텐츠가 AI 생성되었다는 믿음, 라벨에 대한 신뢰, 콘텐츠에 대한 소셜 미디어 참여 인식과 관련된 참가자들의 인식을 조사했습니다. 결과는 라벨의 존재가 사용자가 콘텐츠가 AI 생성, 딥페이크 또는 AI에 의해 편집되었다는 믿음에 상당한 영향을 미쳤음을 보여줍니다. 그러나 라벨에 대한 신뢰는 라벨 디자인에 따라 크게 달랐습니다. 특히, 라벨이 있다고 해서 좋아요, 댓글, 공유와 같은 참여 행동이 크게 바뀌지는 않았습니다. 그러나 정치적 및 오락적 콘텐츠 유형에 따라 참여에 상당한 차이가 있었습니다. 본 연구는 라벨 구현을 위한 디자인 공간을 정의하고 합성 미디어와 관련된 위험을 완화하기 위한 라벨의 전략적 사용에 대한 경험적 지원을 제공함으로써 인간 컴퓨터 상호 작용 분야에 기여합니다.
시사점, 한계점
•
시사점:
◦
AI 생성 콘텐츠에 대한 경고 라벨이 사용자의 콘텐츠 신뢰도에 영향을 미친다는 것을 실증적으로 확인했습니다.
◦
라벨 디자인에 따라 신뢰도 및 참여도가 다르게 나타남을 보여주어, 효과적인 라벨 디자인의 중요성을 강조했습니다.
◦
정치적 콘텐츠와 오락적 콘텐츠에 대한 참여도 차이를 발견하여, 콘텐츠 유형에 따른 라벨 디자인 전략의 필요성을 시사했습니다.
◦
인간-컴퓨터 상호작용 분야에 라벨 디자인에 대한 실험적 근거를 제공했습니다.
•
한계점:
◦
연구 참가자의 다양성 및 대표성에 대한 언급이 부족합니다.
◦
장기적인 효과 및 라벨에 대한 내성 발생 가능성에 대한 고려가 부족합니다.
◦
특정 플랫폼이나 콘텐츠 유형에 국한된 결과일 가능성이 있습니다.
◦
라벨 디자인 요소 외 다른 요인(예: 콘텐츠 자체의 품질, 사용자의 디지털 리터러시)의 영향을 충분히 고려하지 못했을 가능성이 있습니다.
