Sign In

Reproducing DragDiffusion: Interactive Point-Based Editing with Diffusion Models

Created by
  • Haebom
Category
Empty

์ €์ž

Ali Subhan, Ashir Raza

๐Ÿ’ก ๊ฐœ์š”

๋ณธ ์—ฐ๊ตฌ๋Š” ์  ๊ธฐ๋ฐ˜ ๋Œ€ํ™”ํ˜• ์ด๋ฏธ์ง€ ํŽธ์ง‘ ๋ฐฉ๋ฒ•์ธ DragDiffusion์˜ ์žฌํ˜„์„ฑ ์—ฐ๊ตฌ๋ฅผ ์ˆ˜ํ–‰ํ–ˆ์Šต๋‹ˆ๋‹ค. DragDiffusion์€ ์ค‘๊ฐ„ ํƒ€์ž„์Šคํ…์˜ ๋‹จ์ผ ํ™•์‚ฐ ์ž ์žฌ ๋ณ€์ˆ˜๋ฅผ ์ตœ์ ํ™”ํ•˜์—ฌ ์ •ํ™•ํ•œ ๊ณต๊ฐ„ ์ œ์–ด๋ฅผ ๋‹ฌ์„ฑํ•œ๋‹ค๊ณ  ์ฃผ์žฅํ•˜์ง€๋งŒ, ๋ณธ ์—ฐ๊ตฌ๋Š” ์—ฌ๋Ÿฌ ํ•˜์ดํผํŒŒ๋ผ๋ฏธํ„ฐ์— ๋ฏผ๊ฐํ•˜๋ฉฐ ํŠนํžˆ ์ตœ์ ํ™”๋œ ํƒ€์ž„์Šคํ…๊ณผ ๋ชจ์…˜ ๊ฐ๋…์— ์‚ฌ์šฉ๋˜๋Š” ํŠน์ง• ์ˆ˜์ค€์ด ์„ฑ๋Šฅ์— ํฐ ์˜ํ–ฅ์„ ๋ฏธ์นœ๋‹ค๋Š” ๊ฒƒ์„ ๋ฐœ๊ฒฌํ–ˆ์Šต๋‹ˆ๋‹ค. ๊ทธ๋Ÿผ์—๋„ ๋ถˆ๊ตฌํ•˜๊ณ , ์—ฐ๊ตฌ๋Š” DragDiffusion์˜ ์ฃผ์š” ์ฃผ์žฅ์„ ์ง€์ง€ํ•˜๋ฉฐ ์•ˆ์ •์ ์ธ ์žฌํ˜„์„ ์œ„ํ•œ ์กฐ๊ฑด์„ ๋ช…ํ™•ํžˆ ์ œ์‹œํ•ฉ๋‹ˆ๋‹ค.

๐Ÿ”‘ ์‹œ์‚ฌ์  ๋ฐ ํ•œ๊ณ„

โ€ข
DragDiffusion์˜ ํ•ต์‹ฌ ์•„์ด๋””์–ด์ธ ์ค‘๊ฐ„ ํƒ€์ž„์Šคํ… ์ž ์žฌ ๋ณ€์ˆ˜ ์ตœ์ ํ™”๋ฅผ ํ†ตํ•œ ๋Œ€ํ™”ํ˜• ํŽธ์ง‘์˜ ์œ ํšจ์„ฑ์ด ์žฌํ˜„ ์—ฐ๊ตฌ๋ฅผ ํ†ตํ•ด ์ž…์ฆ๋˜์—ˆ์Šต๋‹ˆ๋‹ค.
โ€ข
LoRA ๊ธฐ๋ฐ˜ ๋ฏธ์„ธ ์กฐ์ •, ๋งˆ์Šคํฌ ์ •๊ทœํ™” ๊ฐ•๋„, UNet ํŠน์ง• ๊ฐ๋… ๋“ฑ ์ฃผ์š” ๊ตฌ์„ฑ ์š”์†Œ์˜ ํšจ๊ณผ๊ฐ€ ์› ๋…ผ๋ฌธ์˜ ๊ฒฐ๊ณผ์™€ ์œ ์‚ฌํ•˜๊ฒŒ ๋‚˜ํƒ€๋‚ฌ์Šต๋‹ˆ๋‹ค.
โ€ข
์„ฑ๋Šฅ์€ ์ตœ์ ํ™”๋œ ํƒ€์ž„์Šคํ…๊ณผ ๋ชจ์…˜ ๊ฐ๋…์„ ์œ„ํ•œ ํŠน์ง• ์ˆ˜์ค€๊ณผ ๊ฐ™์€ ์†Œ์ˆ˜์˜ ํ•˜์ดํผํŒŒ๋ผ๋ฏธํ„ฐ์— ๋ฏผ๊ฐํ•˜๋ฉฐ, ๋ฉ€ํ‹ฐ ํƒ€์ž„์Šคํ… ์ž ์žฌ ๋ณ€์ˆ˜ ์ตœ์ ํ™”๋Š” ๊ณ„์‚ฐ ๋น„์šฉ๋งŒ ์ฆ๊ฐ€์‹œํ‚ค๊ณ  ๊ณต๊ฐ„ ์ •ํ™•๋„๋ฅผ ํ–ฅ์ƒ์‹œํ‚ค์ง€ ๋ชปํ–ˆ์Šต๋‹ˆ๋‹ค.
โ€ข
DragDiffusion์˜ ์•ˆ์ •์ ์ธ ์žฌํ˜„์„ ์œ„ํ•ด์„œ๋Š” ํŠน์ • ํ•˜์ดํผํŒŒ๋ผ๋ฏธํ„ฐ ์„ค์ •์— ๋Œ€ํ•œ ์ฃผ์˜ ๊นŠ์€ ์กฐ์ •์ด ํ•„์š”ํ•ฉ๋‹ˆ๋‹ค.
๐Ÿ‘