Is my Data in your AI Model? Membership Inference Test with Application to Face Images
Created by
Haebom
저자
Daniel DeAlcala, Aythami Morales, Julian Fierrez, Gonzalo Mancera, Ruben Tolosana, Javier Ortega-Garcia
개요
본 논문은 AI/ML 모델의 학습 과정에 특정 데이터가 사용되었는지 여부를 경험적으로 평가하기 위한 새로운 접근 방식인 멤버십 추론 테스트(MINT)를 소개합니다. MINT는 감사 대상 모델이 학습 데이터에 노출될 때 나타나는 고유한 활성화 패턴을 학습하도록 설계된 두 가지 아키텍처(다층 퍼셉트론(MLP) 및 합성곱 신경망(CNN) 기반)를 제안합니다. 실험은 세 가지 최첨단 얼굴 인식 시스템을 고려하여 얼굴 인식이라는 어려운 과제에 중점을 두고, 총 2200만 개가 넘는 얼굴 이미지를 포함하는 6개의 공개 데이터베이스를 사용하여 수행되었습니다. AI 모델의 맥락에 따라 다양한 실험 시나리오가 고려되었으며, 최대 90%의 정확도를 달성하여 특정 데이터로 AI 모델이 학습되었는지 여부를 인식할 가능성을 보여주었습니다. 제안된 MINT 접근 방식은 대규모 언어 모델(LLM)의 학습 또는 미세 조정에 민감하거나 개인적인 데이터가 사용되었는지 여부를 밝히는 등 여러 AI 애플리케이션에서 개인 정보 보호 및 공정성을 강화하는 데 기여할 수 있습니다.
시사점, 한계점
•
시사점:
◦
MINT는 AI/ML 모델의 학습 데이터 사용 여부를 높은 정확도(최대 90%)로 판별할 수 있는 새로운 방법을 제시합니다.
◦
개인정보보호 및 공정성 강화에 기여할 수 있습니다. (특히 LLM의 민감한 데이터 사용 여부 확인)
◦
얼굴 인식 분야를 넘어 다양한 AI 애플리케이션에 적용 가능성을 보여줍니다.
•
한계점:
◦
제시된 실험은 특정 데이터베이스와 모델에 한정되어 일반화 가능성에 대한 추가 연구가 필요합니다.
