Sign In

Does the Question Really Matter? Training-Free Data Selection for Vision-Language SFT

Created by
  • Haebom
Category
Empty

μ €μž

Peng Sun, Huawen Shen, Yi Ban, Tianfan Fu, Yanbo Wang, Yuqiang Li

πŸ’‘ κ°œμš”

λ³Έ μ—°κ΅¬λŠ” Vision-Language Large Models (VLLMs)의 μ„±λŠ₯ ν–₯상을 μœ„ν•œ μ‹œκ°μ  λͺ…λ Ήμ–΄ νŠœλ‹ 데이터 μ„ μ • 문제λ₯Ό λ‹€λ£Ήλ‹ˆλ‹€. κΈ°μ‘΄ 방식듀이 μ–Έμ–΄ νŒ¨ν„΄μ΄λ‚˜ 상식에 μ˜μ‘΄ν•˜λŠ” μƒ˜ν”Œμ„ 효과적으둜 κ±ΈλŸ¬λ‚΄μ§€ λͺ»ν•˜λŠ” ν•œκ³„λ₯Ό κ·Ήλ³΅ν•˜κ³ μž, 질문이 λ‹΅λ³€ μœ νš¨μ„±μ— λ―ΈμΉ˜λŠ” 영ν–₯을 μΈ‘μ •ν•˜λŠ” ν›ˆλ ¨ μ—†λŠ” μƒˆλ‘œμš΄ 데이터 μ„ μ • 방법둠인 CVSλ₯Ό μ œμ•ˆν•©λ‹ˆλ‹€. CVSλŠ” μ§ˆλ¬Έμ„ ν¬ν•¨ν–ˆμ„ λ•Œμ™€ ν¬ν•¨ν•˜μ§€ μ•Šμ•˜μ„ λ•Œμ˜ λ‹΅λ³€ μœ νš¨μ„± 뢈일치λ₯Ό μΈ‘μ •ν•˜μ—¬ μ§„μ •ν•œ μ‹œκ°-μ–Έμ–΄ 좔둠을 μš”κ΅¬ν•˜λŠ” μƒ˜ν”Œμ„ μ‹λ³„ν•˜κ³ , μ‹€ν—˜μ„ 톡해 νš¨μœ¨μ„±κ³Ό μ„±λŠ₯ μš°μˆ˜μ„±μ„ μž…μ¦ν–ˆμŠ΅λ‹ˆλ‹€.

πŸ”‘ μ‹œμ‚¬μ  및 ν•œκ³„

β€’
μ§„μ •ν•œ μ‹œκ°-μ–Έμ–΄ μΆ”λ‘  μœ λ„: 질문의 λ„μž…μ΄ λͺ¨λΈμ˜ λ‹΅λ³€ μœ νš¨μ„± νŒλ‹¨μ— μƒλ‹Ήν•œ 영ν–₯을 λ―ΈμΉ˜λŠ” μƒ˜ν”Œμ„ μ„ νƒν•¨μœΌλ‘œμ¨, λͺ¨λΈμ΄ λ‹¨μˆœν•œ 언어적 νŒ¨ν„΄μ΄ μ•„λ‹Œ μ‹€μ œ μ‹œκ°-μ–Έμ–΄ 좔둠을 μˆ˜ν–‰ν•˜λ„λ‘ μœ λ„ν•©λ‹ˆλ‹€.
β€’
효율적인 데이터 μ„ μ •: λ³„λ„μ˜ λͺ¨λΈ ν›ˆλ ¨ 없이 효율적으둜 κ³ ν’ˆμ§ˆ 데이터λ₯Ό μ„ μ •ν•˜μ—¬, 데이터 μ„ μ • λΉ„μš©μ„ μ ˆκ°ν•˜κ³  νŠœλ‹ μ„±λŠ₯을 ν–₯μƒμ‹œν‚¬ 수 μžˆμŠ΅λ‹ˆλ‹€.
β€’
계산 λΉ„μš© 절감: 기쑴의 λ³΅μž‘ν•œ 데이터 μ„ μ • 방법둠 λŒ€λΉ„ μƒλ‹Ήν•œ 계산 λΉ„μš© 절감 효과λ₯Ό 보여주며, 더 적은 λ°μ΄ν„°λ‘œλ„ λ›°μ–΄λ‚œ μ„±λŠ₯을 달성할 수 μžˆμŒμ„ μž…μ¦ν–ˆμŠ΅λ‹ˆλ‹€.
πŸ‘
Made with Slashpage