Sign In

Detecting Distillation Data from Reasoning Models

μž‘μ„±μž
  • Haebom
μΉ΄ν…Œκ³ λ¦¬
Empty

μ €μž

Hengxiang Zhang, Hyeong Kyu Choi, Sharon Li, Hongxin Wei

πŸ’‘ κ°œμš”

λ³Έ 논문은 λŒ€ν˜• μΆ”λ‘  λͺ¨λΈμ˜ μΆ”λ‘  λŠ₯λ ₯을 μ†Œν˜• μ–Έμ–΄ λͺ¨λΈλ‘œ μ΄μ „ν•˜λŠ” 데 μ‚¬μš©λ˜λŠ” μΆ”λ‘  증λ₯˜(reasoning distillation) κ³Όμ •μ—μ„œ λ°œμƒν•  수 μžˆλŠ” 데이터 μ˜€μ—Ό 문제λ₯Ό ν•΄κ²°ν•©λ‹ˆλ‹€. μ œμ•ˆλœ 방법둠인 토큰 ν™•λ₯  편차(Token Probability Deviation, TPD)λŠ” λͺ¨λΈμ΄ μƒμ„±ν•˜λŠ” 좜λ ₯ ν† ν°μ˜ ν™•λ₯  νŒ¨ν„΄μ„ λΆ„μ„ν•˜μ—¬, 질문이 증λ₯˜ 데이터에 ν¬ν•¨λ˜μ—ˆλŠ”μ§€ μ—¬λΆ€λ₯Ό νƒμ§€ν•©λ‹ˆλ‹€. 이λ₯Ό 톡해 κΈ°μ‘΄ 방법에 λΉ„ν•΄ 탐지 μ„±λŠ₯을 μ΅œλŒ€ 31% ν–₯μƒμ‹œν‚€λ©° νš¨κ³Όμ„±μ„ μž…μ¦ν–ˆμŠ΅λ‹ˆλ‹€.

πŸ”‘ μ‹œμ‚¬μ  및 ν•œκ³„

β€’
μΆ”λ‘  증λ₯˜ 데이터셋에 λŒ€ν•œ 잠재적인 μ˜€μ—Όμ„ νƒμ§€ν•˜κ³  평가할 수 μžˆλŠ” 곡식적인 방법둠을 μ œμ‹œν•©λ‹ˆλ‹€.
β€’
λͺ¨λΈμ˜ 좜λ ₯ 토큰 ν™•λ₯  뢄포 νŠΉμ„±μ„ ν™œμš©ν•˜μ—¬ 증λ₯˜ λ°μ΄ν„°μ…‹μ˜ 포함 μ—¬λΆ€λ₯Ό 효과적으둜 νŒλ³„ν•˜λŠ” μƒˆλ‘œμš΄ 탐지 기법을 μ œμ•ˆν•©λ‹ˆλ‹€.
β€’
μ‹€μ œ 증λ₯˜ λ°μ΄ν„°μ…‹μ—μ„œ 탐지 μ„±λŠ₯을 크게 ν–₯μƒμ‹œμΌœ, μΆ”λ‘  λͺ¨λΈ ν•™μŠ΅ 및 ν‰κ°€μ˜ 신뒰도λ₯Ό λ†’μ΄λŠ” 데 κΈ°μ—¬ν•©λ‹ˆλ‹€.
β€’
증λ₯˜ λ°μ΄ν„°μ˜ μΌλΆ€λ§Œ 곡개된 μƒν™©μ—μ„œλ„ 효과적인 탐지 μ„±λŠ₯을 λ³΄μ΄μ§€λ§Œ, λͺ¨λΈμ˜ μΆ”λ‘  κ³Όμ • μžμ²΄μ— λŒ€ν•œ 근본적인 이해λ₯Ό λ°”νƒ•μœΌλ‘œ νƒμ§€ν•˜λŠ” 것은 μ—¬μ „νžˆ 도전 과제둜 λ‚¨μ•„μžˆμŠ΅λ‹ˆλ‹€.
πŸ‘
Made with Slashpage