본 논문은 소셜 미디어 애플리케이션(Instagram, TikTok)에 로컬로 배포된 머신러닝 모델(예: 얼굴 필터)이 사용자의 민감한 속성에 접근하지만, 그 사용 방식(시점, 위치, 방법)이 사용자에게 불투명하다는 문제를 제기한다. 21명의 사용자 연구를 통해 사용자들이 모델의 출력 및 사용 시점을 인지하지 못하고 있음을 발견하였고, 모델의 기능에 대한 정보를 제공한 후 8명의 참가자에게 장기적인 행동 변화가 관찰되었다. 이 연구는 로컬 사용자 데이터와 상호 작용하는 머신러닝 모델의 투명성 제공에 대한 과제와 기회를 밝히고 있다.
시사점, 한계점
•
시사점: 소셜 미디어 애플리케이션 내 머신러닝 모델의 사용에 대한 사용자 인식 부족을 보여줌. 모델의 투명성 확보 필요성을 강조. 모델 투명성 제공 후 사용자 행동 변화 가능성 제시. 로컬 머신러닝 모델의 투명성에 대한 추가 연구 필요성 제기.
•
한계점: 참가자 수가 제한적(N=21)이어서 일반화에 한계가 있음. 특정 소셜 미디어 플랫폼(Instagram, TikTok)에 국한된 연구 결과임. 장기적인 행동 변화의 원인과 영향에 대한 심층 분석 부족. 다양한 유형의 머신러닝 모델과 사용 사례에 대한 일반화가 어려움.
