Sign In

LeakBoost: Perceptual-Loss-Based Membership Inference Attack

Created by
  • Haebom
Category
Empty

์ €์ž

Amit Kravchik Taub, Fred M. Grabovski, Guy Amit, Yisroel Mirsky

๐Ÿ’ก ๊ฐœ์š”

๋ณธ ๋…ผ๋ฌธ์€ ๋จธ์‹ ๋Ÿฌ๋‹ ๋ชจ๋ธ์˜ ํ•™์Šต ๋ฐ์ดํ„ฐ ํฌํ•จ ์—ฌ๋ถ€๋ฅผ ํƒ์ง€ํ•˜๋Š” ๋ฉค๋ฒ„์‹ญ ์ถ”๋ก  ๊ณต๊ฒฉ(MIA)์— ๋Œ€ํ•œ ์ƒˆ๋กœ์šด ์ ‘๊ทผ๋ฒ•์ธ LeakBoost๋ฅผ ์ œ์•ˆํ•œ๋‹ค. LeakBoost๋Š” ๋ชจ๋ธ์˜ ๋™์  ํƒ์ƒ‰์„ ํ™œ์šฉํ•˜์—ฌ, ์ž…๋ ฅ ํ›„๋ณด์— ๋Œ€ํ•œ ํƒ์ƒ‰ ์ด๋ฏธ์ง€๋ฅผ ์ƒ์„ฑํ•จ์œผ๋กœ์จ ๋ฉค๋ฒ„์™€ ๋น„๋ฉค๋ฒ„ ๊ฐ„์˜ ํ‘œํ˜„ ์ฐจ์ด๋ฅผ ์ฆํญ์‹œํ‚จ๋‹ค. ์ด๋ฅผ ํ†ตํ•ด ๊ธฐ์กด MIA ๋ฐฉ๋ฒ•๋ก ์˜ ์„ฑ๋Šฅ์„ ํฌ๊ฒŒ ํ–ฅ์ƒ์‹œํ‚ค๋ฉฐ, ๊ฐœ์ธ ์ •๋ณด ๋ณดํ˜ธ์˜ ์ทจ์•ฝ์ ์„ ํšจ๊ณผ์ ์œผ๋กœ ๋“œ๋Ÿฌ๋‚ธ๋‹ค.

๐Ÿ”‘ ์‹œ์‚ฌ์  ๋ฐ ํ•œ๊ณ„

โ€ข
LeakBoost๋Š” ๊ธฐ์กด ์ •์  ์ง€ํ‘œ ๊ธฐ๋ฐ˜ MIA์˜ ํ•œ๊ณ„๋ฅผ ๊ทน๋ณตํ•˜๊ณ , ๋ชจ๋ธ์˜ ๋™์  ํƒ์ƒ‰์„ ํ†ตํ•ด ์ž ์žฌ์ ์ธ ๊ฐœ์ธ ์ •๋ณด ์œ ์ถœ ์œ„ํ—˜์„ ๋” ํšจ๊ณผ์ ์œผ๋กœ ํƒ์ง€ํ•  ์ˆ˜ ์žˆ์Œ์„ ๋ณด์—ฌ์ค€๋‹ค.
โ€ข
์ œ์•ˆ๋œ ํƒ์ƒ‰ ์ด๋ฏธ์ง• ๊ธฐ๋ฒ•์€ ๊ธฐ์กด ๋ฉค๋ฒ„์‹ญ ํƒ์ง€ ๋ชจ๋ธ์„ ์ˆ˜์ • ์—†์ด ํ™œ์šฉํ•  ์ˆ˜ ์žˆ์–ด ๋ชจ๋“ˆ์„ฑ๊ณผ ํšจ์œจ์„ฑ์ด ๋†’๋‹ค.
โ€ข
LeakBoost์˜ ์„ฑ๊ณต์€ ํŠนํžˆ ๊ฒฝ์‚ฌ๋„ ๊ธฐ๋ฐ˜ ํƒ์ง€๊ธฐ์—์„œ ๋‘๋“œ๋Ÿฌ์ง€๋ฉฐ, ๋ชจ๋ธ์˜ ๊นŠ์€ ๊ณ„์ธต๊ณผ ์งง์€ ์ตœ์ ํ™” ๊ณผ์ •์ด ๋” ๊ฐ•ํ•œ ์ •๋ณด ๋ˆ„์ถœ์„ ์œ ๋ฐœํ•œ๋‹ค๋Š” ๊ฒƒ์„ ์‹œ์‚ฌํ•œ๋‹ค.
โ€ข
๋ณธ ์—ฐ๊ตฌ๋Š” ํ™”์ดํŠธ๋ฐ•์Šค(white-box) ํ™˜๊ฒฝ์—์„œ์˜ ๊ฐœ์ธ ์ •๋ณด ์œ„ํ—˜ ํ‰๊ฐ€๋ฅผ ์œ„ํ•œ ์‹ค์šฉ์ ์ธ ๋ฐฉ๋ฒ•๋ก ์„ ์ œ์‹œํ•˜์ง€๋งŒ, ๋ธ”๋ž™๋ฐ•์Šค(black-box) ํ™˜๊ฒฝ์—์„œ์˜ ํšจ๊ณผ์„ฑ ๋ฐ ๋‹ค์–‘ํ•œ ์ข…๋ฅ˜์˜ ๋ฐ์ดํ„ฐ์…‹์— ๋Œ€ํ•œ ์ถ”๊ฐ€์ ์ธ ๊ฒ€์ฆ์ด ํ•„์š”ํ•  ์ˆ˜ ์žˆ๋‹ค.
๐Ÿ‘