VoxPrivacy: A Benchmark for Evaluating Interactional Privacy of Speech Language Models
작성자
카테고리
Empty
저자
Yuxiang Wang, Hongyu Liu, Dekun Chen, Xueyao Zhang, Zhizheng Wu
💡 개요
음성 언어 모델(SLM)이 개인 장치에서 스마트 홈과 같은 공유 환경으로 확장됨에 따라 사용자 간 정보를 적절히 구분하지 못해 발생하는 개인정보 침해 문제가 중요해지고 있습니다. 본 논문은 이러한 상호작용 개인정보 침해를 평가하기 위한 최초의 벤치마크인 VoxPrivacy를 제안합니다. VoxPrivacy는 3단계 난이도로 구성되며, 평가 결과 대부분의 SLM이 개인정보 관련 결정에서 낮은 정확도를 보였고, 특히 능동적으로 개인정보를 보호하는 능력은 부족함을 확인했습니다.
🔑 시사점 및 한계
•
SLM의 발전과 함께 사용자별 개인정보를 구분하고 보호하는 '상호작용 개인정보' 보호 능력의 중요성이 대두되었습니다.
•
기존 SLM 벤치마크는 대화 능력이나 화자 식별에 집중되었을 뿐, 개인정보 보호 측면은 간과되었음을 지적합니다.
•
공개 및 폐쇄형 SLM 모두 사용자 맞춤형 개인정보 보호 기능에 취약점을 가지고 있음을 실험적으로 입증했습니다.
•
제안된 벤치마크, 대규모 학습 데이터셋, 개선된 모델을 공개하여 향후 SLM의 개인정보 보호 연구 발전에 기여합니다.