Sign In

RxnNano:Training Compact LLMs for Chemical Reaction and Retrosynthesis Prediction via Hierarchical Curriculum Learning

Created by
  • Haebom
Category
Empty

μ €μž

Ran Li, Shimin Di, Haowei LI, Luanshi Bu, Jiachuan Wang, Wangze Ni, Lei Chen

πŸ’‘ κ°œμš”

λ³Έ 논문은 κΈ°μ‘΄ κ±°λŒ€ μ–Έμ–΄ λͺ¨λΈ(LLM)의 νŒŒλΌλ―Έν„° 및 데이터셋 규λͺ¨μ— λŒ€ν•œ κ³Όλ„ν•œ μ˜μ‘΄μ„±μ„ κ·Ήλ³΅ν•˜κ³ μž, ν™”ν•™ λ°˜μ‘ 예츑 및 μ—­ν•©μ„± κ³„νšμ„ μœ„ν•œ κ²½λŸ‰ LLM인 RxnNanoλ₯Ό μ œμ•ˆν•©λ‹ˆλ‹€. RxnNanoλŠ” 잠재 화학적 일관성, 계측적 인지 컀리큘럼, μ›μž 맡 μˆœμ—΄ λΆˆλ³€μ„±(AMPI)을 톡해 λͺ¨λΈμ— 화학적 직관과 κΉŠμ€ 이해λ₯Ό μ£Όμž…ν•˜λŠ” 것을 λͺ©ν‘œλ‘œ ν•©λ‹ˆλ‹€. 0.5B νŒŒλΌλ―Έν„° λͺ¨λΈμž„에도 λΆˆκ΅¬ν•˜κ³ , RxnNanoλŠ” 10λ°° 이상 큰 λͺ¨λΈλ“€λ³΄λ‹€ μš°μˆ˜ν•œ μ„±λŠ₯을 λ³΄μ—¬μ€λ‹ˆλ‹€.

πŸ”‘ μ‹œμ‚¬μ  및 ν•œκ³„

β€’
화학적 직관과 논리λ₯Ό λͺ¨λΈμ— λ‚΄μž¬ν™”ν•˜λŠ” 것이 규λͺ¨ ν™•μž₯보닀 더 μ€‘μš”ν•¨μ„ μž…μ¦ν•©λ‹ˆλ‹€.
β€’
κ²½λŸ‰ λͺ¨λΈλ‘œλ„ λ³΅μž‘ν•œ ν™”ν•™ λ°˜μ‘ μ˜ˆμΈ‘μ—μ„œ 높은 μ„±λŠ₯을 달성할 수 μžˆμŒμ„ λ³΄μ—¬μ€λ‹ˆλ‹€.
β€’
μ‹€μ œ μž„μƒ ν™˜κ²½μ—μ„œμ˜ 적용 κ°€λŠ₯μ„± 및 λ‹€μ–‘ν•œ ν™”ν•™ λ°μ΄ν„°μ…‹μ—μ„œμ˜ μΌλ°˜ν™” μ„±λŠ₯ 검증이 ν•„μš”ν•©λ‹ˆλ‹€.
πŸ‘
Made with Slashpage