Sign In

AdaCorrection: Adaptive Offset Cache Correction for Accurate Diffusion Transformers

μž‘μ„±μž
  • Haebom
μΉ΄ν…Œκ³ λ¦¬
Empty

μ €μž

Dong Liu, Yanxuan Yu, Ben Lengerich, Ying Nian Wu

πŸ’‘ κ°œμš”

Diffusion Transformers (DiTs)λŠ” λ›°μ–΄λ‚œ 이미지 및 λΉ„λ””μ˜€ 생성 μ„±λŠ₯을 λ³΄μ΄μ§€λ§Œ, 반볡적인 디노이징 ꡬ쑰둜 인해 μΆ”λ‘  λΉ„μš©μ΄ λ†’λ‹€λŠ” 단점이 μžˆμŠ΅λ‹ˆλ‹€. 기쑴의 νŠΉμ§• 캐싱을 ν†΅ν•œ μƒ˜ν”Œλ§ 가속화 방법은 정적 μŠ€μΌ€μ€„μ΄λ‚˜ 거친 νœ΄λ¦¬μŠ€ν‹±μ— μ˜μ‘΄ν•˜μ—¬ μΊμ‹œ 뢈일치둜 μΈν•œ 생성 ν’ˆμ§ˆ μ €ν•˜λ₯Ό μ•ΌκΈ°ν–ˆμŠ΅λ‹ˆλ‹€. λ³Έ 논문은 AdaCorrectionμ΄λΌλŠ” μ μ‘ν˜• μ˜€ν”„μ…‹ μΊμ‹œ 보정 ν”„λ ˆμž„μ›Œν¬λ₯Ό μ œμ•ˆν•˜μ—¬, 트랜슀포머 λ ˆμ΄μ–΄ μ „λ°˜μ— 걸쳐 효율적인 μΊμ‹œ μž¬μ‚¬μš©μ„ κ°€λŠ₯ν•˜κ²Œ ν•˜λ©΄μ„œλ„ 높은 생성 좩싀도λ₯Ό μœ μ§€ν•©λ‹ˆλ‹€.

πŸ”‘ μ‹œμ‚¬μ  및 ν•œκ³„

β€’
DiTs의 μΆ”λ‘  속도 κ°œμ„ μ„ μœ„ν•΄ μΊμ‹œ νš¨μœ¨μ„±μ„ λ†’μ΄λ©΄μ„œλ„ 생성 ν’ˆμ§ˆ μ €ν•˜λ₯Ό μ΅œμ†Œν™”ν•˜λŠ” μƒˆλ‘œμš΄ μ ‘κ·Ό 방식을 μ œμ‹œν•©λ‹ˆλ‹€.
β€’
κ²½λŸ‰μ˜ μ‹œκ³΅κ°„ μ‹ ν˜Έλ₯Ό ν™œμš©ν•˜μ—¬ μΊμ‹œ μœ νš¨μ„±μ„ μ‹€μ‹œκ°„μœΌλ‘œ μΆ”μ •ν•˜κ³ , μΊμ‹œλœ ν™œμ„±ν™”μ™€ μƒˆλ‘œ κ³„μ‚°λœ ν™œμ„±ν™”λ₯Ό μ μ‘μ μœΌλ‘œ ν˜Όν•©ν•˜λŠ” λ°©μ‹μœΌλ‘œ κ΅¬ν˜„λ©λ‹ˆλ‹€.
β€’
좔가적인 지도 ν•™μŠ΅μ΄λ‚˜ μž¬ν•™μŠ΅ 없이도 μ¦‰μ„μ—μ„œ 보정을 μˆ˜ν–‰ν•  수 μžˆμ–΄ κ΅¬ν˜„μ΄ μš©μ΄ν•˜λ©°, FID 점수 μ €ν•˜λ₯Ό μ΅œμ†Œν™”ν•˜λ©΄μ„œλ„ μ μ ˆν•œ μΆ”λ‘  가속 효과λ₯Ό λ‹¬μ„±ν•©λ‹ˆλ‹€.
β€’
μ‹€ν—˜ κ²°κ³Ό, 이미지 및 λΉ„λ””μ˜€ 생성 λ²€μΉ˜λ§ˆν¬μ—μ„œ AdaCorrection이 μΌκ΄€μ μœΌλ‘œ 생성 μ„±λŠ₯을 ν–₯μƒμ‹œν‚€λŠ” 것을 ν™•μΈν–ˆμŠ΅λ‹ˆλ‹€.
β€’
μ œμ•ˆλœ 방법이 'μ μ ˆν•œ' 가속을 μ œκ³΅ν•˜μ§€λ§Œ, 기쑴의 λ‹€λ₯Έ 가속화 방법과 λΉ„κ΅ν–ˆμ„ λ•Œ μ–΄λŠ μ •λ„μ˜ 가속 효과λ₯Ό κ°€μ§€λŠ”μ§€μ— λŒ€ν•œ μ •λŸ‰μ μΈ 비ꡐ가 더 ν•„μš”ν•  수 μžˆμŠ΅λ‹ˆλ‹€.
πŸ‘
Made with Slashpage