Sign In

Out-of-the-box: Black-box Causal Attacks on Object Detectors

Created by
  • Haebom
Category
Empty

์ €์ž

Melane Navaratnarajah, David A. Kelly, Hana Chockler

๐Ÿ’ก ๊ฐœ์š”

๋ณธ ์—ฐ๊ตฌ๋Š” ๊ฐ์ฒด ํƒ์ง€๊ธฐ์˜ ์ทจ์•ฝ์ ์„ ๋“œ๋Ÿฌ๋‚ด๋Š” ์ƒˆ๋กœ์šด ๋ธ”๋ž™๋ฐ•์Šค ๊ณต๊ฒฉ ๊ธฐ๋ฒ•์ธ BlackCAtt๋ฅผ ์ œ์•ˆํ•ฉ๋‹ˆ๋‹ค. BlackCAtt๋Š” ์ตœ์†Œํ•œ์˜ ์ธ๊ณผ์ ์œผ๋กœ ์ถฉ๋ถ„ํ•œ ํ”ฝ์…€ ์ง‘ํ•ฉ์„ ์‚ฌ์šฉํ•˜์—ฌ ํˆฌ๋ช…ํ•˜๊ณ , ์ธ์‹ํ•˜๊ธฐ ์–ด๋ ค์šฐ๋ฉฐ, ์žฌํ˜„ ๊ฐ€๋Šฅํ•œ ๊ณต๊ฒฉ์„ ์ƒ์„ฑํ•˜์—ฌ ๊ธฐ์กด ํ™”์ดํŠธ๋ฐ•์Šค ๊ณต๊ฒฉ์˜ ํ•œ๊ณ„๋ฅผ ๊ทน๋ณตํ•ฉ๋‹ˆ๋‹ค. ํƒ์ง€๊ธฐ์˜ ์œ„์น˜์™€ ๋ผ๋ฒจ ์ •๋ณด๋งŒ์œผ๋กœ๋„ ๊ธฐ์กด ๋ธ”๋ž™๋ฐ•์Šค ๊ณต๊ฒฉ๊ณผ ๋™๋“ฑํ•˜๊ฑฐ๋‚˜ ์šฐ์ˆ˜ํ•œ ์„ฑ๋Šฅ์„ ๋ณด์ด๋ฉฐ, ๋ชจ๋ธ ์‹ ๋ขฐ๋„ ์ •๋ณด๊นŒ์ง€ ํ™œ์šฉํ•˜๋ฉด ๋” ์ž‘๊ณ  ๋ˆˆ์— ๋„์ง€ ์•Š๋Š” ๊ณต๊ฒฉ ์ƒ์„ฑ์ด ๊ฐ€๋Šฅํ•ฉ๋‹ˆ๋‹ค.

๐Ÿ”‘ ์‹œ์‚ฌ์  ๋ฐ ํ•œ๊ณ„

โ€ข
์ธ๊ณผ์  ๊ณต๊ฒฉ์˜ ํˆฌ๋ช…์„ฑ ๋ฐ ์„ค๋ช… ๊ฐ€๋Šฅ์„ฑ ํ™•๋ณด: BlackCAtt๋Š” ๊ณต๊ฒฉ์ด ์ž‘๋™ํ•˜๋Š” ์›์ธ์„ ๋ช…ํ™•ํ•˜๊ฒŒ ๋ณด์—ฌ์ฃผ๋ฏ€๋กœ, ๊ณต๊ฒฉ ๋ฉ”์ปค๋‹ˆ์ฆ˜์„ ์ดํ•ดํ•˜๊ณ  ๋ฐฉ์–ด ์ „๋žต์„ ๊ฐœ๋ฐœํ•˜๋Š” ๋ฐ ์ค‘์š”ํ•œ ์ธ์‚ฌ์ดํŠธ๋ฅผ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค.
โ€ข
ํšจ์œจ์ ์ด๊ณ  ์ธ์‹ํ•˜๊ธฐ ์–ด๋ ค์šด ๊ณต๊ฒฉ ์ƒ์„ฑ: ์ตœ์†Œํ•œ์˜ ํ”ฝ์…€์„ ์กฐ์ž‘ํ•˜์—ฌ ๊ณต๊ฒฉ์„ ์„ฑ๊ณต์‹œํ‚ค๋ฏ€๋กœ, ์ธ๊ฐ„์ด ์ธ์ง€ํ•˜๊ธฐ ์–ด๋ ต๊ณ  ์›๋ณธ ์ด๋ฏธ์ง€์™€์˜ ์ฐจ์ด๊ฐ€ ๋ฏธ๋ฏธํ•œ ๊ณต๊ฒฉ ์ƒ์„ฑ์ด ๊ฐ€๋Šฅํ•ฉ๋‹ˆ๋‹ค.
โ€ข
์•„ํ‚คํ…์ฒ˜ ๋…๋ฆฝ์ ์ธ ๋ฒ”์šฉ์„ฑ: ํŠน์ • ๊ฐ์ฒด ํƒ์ง€๊ธฐ ์•„ํ‚คํ…์ฒ˜์— ์ข…์†๋˜์ง€ ์•Š์•„ ๋‹ค์–‘ํ•œ ๋ชจ๋ธ์— ์ ์šฉ๋  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.
โ€ข
ํ–ฅํ›„ ๊ณผ์ œ: BlackCAtt์˜ ํšจ๊ณผ๋ฅผ ๋”์šฑ ํ™•์žฅํ•˜๊ณ , ์‹ค์ œ ํ™˜๊ฒฝ์—์„œ์˜ ๋‹ค์–‘ํ•œ ์‹œ๋‚˜๋ฆฌ์˜ค์— ๋Œ€ํ•œ ์ ์šฉ ๊ฐ€๋Šฅ์„ฑ์„ ํ‰๊ฐ€ํ•˜๋ฉฐ, ์ด๋ฅผ ๊ธฐ๋ฐ˜์œผ๋กœ ํ•œ ํšจ๊ณผ์ ์ธ ๋ฐฉ์–ด ๊ธฐ๋ฒ• ๊ฐœ๋ฐœ์ด ํ•„์š”ํ•ฉ๋‹ˆ๋‹ค.
๐Ÿ‘