Sign In

Be Kind, Rewrite: Benign Projections via Rewriting Defend Against LLM Data Poisoning Attacks

์ž‘์„ฑ์ž
  • Haebom
์นดํ…Œ๊ณ ๋ฆฌ
Empty

์ €์ž

John T. Halloran, Noopur S. Bhatt

๐Ÿ’ก ๊ฐœ์š”

๋Œ€๊ทœ๋ชจ ์–ธ์–ด ๋ชจ๋ธ(LLM)์€ ์•…์„ฑ ๋ฐ์ดํ„ฐ๋กœ ์ธํ•ด ํ›ˆ๋ จ ๋ฐ์ดํ„ฐ๊ฐ€ ์˜ค์—ผ๋˜๋Š” ๋ฐฑ๋„์–ด ๊ณต๊ฒฉ(BA)์— ์ทจ์•ฝํ•ฉ๋‹ˆ๋‹ค. ๋ณธ ๋…ผ๋ฌธ์€ LLM์˜ ์žฌ์ž‘์„ฑ ๊ธฐ๋Šฅ์„ ํ™œ์šฉํ•˜์—ฌ ์ด๋Ÿฌํ•œ ๋ฐ์ดํ„ฐ ์˜ค์—ผ ๊ณต๊ฒฉ์— ์„ ์ œ์ ์œผ๋กœ ๋Œ€์‘ํ•˜๋Š” '์—ด๋ฆฐ ์ฑ…' ๊ธฐ๋ฐ˜์˜ ์–‘์„ฑ ์žฌ์ž‘์„ฑ(OBBR) ๋ฐฉ๋ฒ•์„ ์ œ์•ˆํ•ฉ๋‹ˆ๋‹ค. OBBR์€ ํ›ˆ๋ จ ๋ฐ์ดํ„ฐ๋ฅผ ์–‘์„ฑ ํ”„๋กฌํ”„ํŠธ ๊ณต๊ฐ„์œผ๋กœ ํˆฌ์˜์‹œ์ผœ ์•…์„ฑ ์ฝ˜ํ…์ธ ๋ฅผ ์ค‘ํ™”ํ•จ์œผ๋กœ์จ ๊ธฐ์กด์˜ BA ๋ฐฉ์–ด ๊ธฐ๋ฒ•๋ณด๋‹ค ํ›จ์”ฌ ํšจ๊ณผ์ ์ธ ๋ฐฉ์–ด ์„ฑ๋Šฅ์„ ๋ณด์—ฌ์ค๋‹ˆ๋‹ค.

๐Ÿ”‘ ์‹œ์‚ฌ์  ๋ฐ ํ•œ๊ณ„

โ€ข
OBBR์€ ์•Œ๋ ค์ง„ ๋‹ค์–‘ํ•œ ๋ฐฑ๋„์–ด ๊ณต๊ฒฉ ํŒจํ„ด์— ๋Œ€ํ•ด ๊ธฐ์กด ์ตœ์ฒจ๋‹จ ๋ฐฉ์–ด ๊ธฐ๋ฒ•๋ณด๋‹ค ์šฐ์ˆ˜ํ•œ ์•ˆ์ „์„ฑ ์„ฑ๋Šฅ์„ ์ œ๊ณตํ•˜๋ฉฐ, ํŠนํžˆ '์—ด๋ฆฐ ์ฑ…' ๋ฐฉ์‹์ด '๋‹ซํžŒ ์ฑ…' ๋ฐฉ์‹๋ณด๋‹ค ๋” ํšจ๊ณผ์ ์ž„์„ ์ด๋ก ์ ์œผ๋กœ ์ž…์ฆํ–ˆ์Šต๋‹ˆ๋‹ค.
โ€ข
OBBR์€ ๋‹ค๋ฅธ BA ๋ฐฉ์–ด ๊ธฐ๋ฒ•์— ๋น„ํ•ด ๊ณ„์‚ฐ ํšจ์œจ์„ฑ์ด ๋†’๊ณ , ๋ฏธ์„ธ ์กฐ์ • ํ›„์—๋„ ์ž์—ฐ์–ด ์ž‘์—…์—์„œ์˜ ๋ชจ๋ธ ์„ฑ๋Šฅ์„ ์ €ํ•˜์‹œํ‚ค์ง€ ์•Š์œผ๋ฉฐ, ํŠธ๋ฆฌ๊ฑฐ ๊ธฐ๋ฐ˜์ด ์•„๋‹Œ ๋ฐ์ดํ„ฐ ์˜ค์—ผ ๊ณต๊ฒฉ์—๋„ ํšจ๊ณผ์ ์ธ ๋ฐฉ์–ด ๋Šฅ๋ ฅ์„ ๊ฐ–์ถ”๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค.
โ€ข
ํ–ฅํ›„ ์—ฐ๊ตฌ์—์„œ๋Š” OBBR์˜ ์ ์šฉ ๋ฒ”์œ„๋ฅผ ๋”์šฑ ํ™•์žฅํ•˜๊ณ , ๋‹ค์–‘ํ•œ ์ข…๋ฅ˜์˜ ๋ฐ์ดํ„ฐ ์˜ค์—ผ ๊ณต๊ฒฉ์— ๋Œ€ํ•œ ๋ณต์›๋ ฅ์„ ๊ฐ•ํ™”ํ•˜๋Š” ๋ฐฉ์•ˆ์„ ๋ชจ์ƒ‰ํ•  ํ•„์š”๊ฐ€ ์žˆ์Šต๋‹ˆ๋‹ค.
๐Ÿ‘
Made with Slashpage