Sign In

OptiML: An End-to-End Framework for Program Synthesis and CUDA Kernel Optimization

Created by
  • Haebom
Category
Empty

μ €μž

Arijit Bhattacharjee, Heng Ping, Son Vu Le, Paul Bogdan, Nesreen K. Ahmed, Ali Jannesari

πŸ’‘ κ°œμš”

λ³Έ 논문은 κ³ μ„±λŠ₯ CUDA 컀널 생성을 μœ„ν•œ 쒅단간 ν”„λ ˆμž„μ›Œν¬μΈ OptiML을 μ œμ•ˆν•œλ‹€. OptiML은 μžμ—°μ–΄ μ˜λ„ λ˜λŠ” μž…λ ₯ CUDA μ½”λ“œλ₯Ό λ°›μ•„ μ΅œμ ν™”λœ CUDA 컀널을 μƒμ„±ν•˜λ©°, 컀널 μ΅œμ ν™”λ₯Ό 탐색 및 검증 문제둜 κ³΅μ‹ν™”ν•œλ‹€. ν”„λ ˆμž„μ›Œν¬λŠ” μ œμ•ˆ μ •μ±… 역할을 ν•˜λŠ” Mixture-of-Thoughts 생성기와 λͺ¬ν…ŒμΉ΄λ₯Όλ‘œ 트리 탐색을 ν™œμš©ν•˜μ—¬ LLM 기반 νŽΈμ§‘μœΌλ‘œ 컀널을 μ΅œμ ν™”ν•˜λŠ” 두 λ‹¨κ³„λ‘œ κ΅¬μ„±λœλ‹€.

πŸ”‘ μ‹œμ‚¬μ  및 ν•œκ³„

β€’
OptiML은 LLM 기반의 μ œμ•ˆκ³Ό ν•˜λ“œμ›¨μ–΄ ν”„λ‘œνŒŒμΌλ§ 기반의 검증 및 μ΅œμ ν™”λ₯Ό κ²°ν•©ν•˜μ—¬ μ„±λŠ₯이 μš°μˆ˜ν•œ CUDA 컀널을 μƒμ„±ν•œλ‹€.
β€’
λ³΅μž‘ν•œ μ΅œμ ν™” 곡간을 νƒμƒ‰ν•˜κ³  μ„±λŠ₯ ν–₯상을 μ²΄κ³„μ μœΌλ‘œ λ°œκ²¬ν•˜λ©°, μ΅œμ ν™” 과정을 해석 κ°€λŠ₯ν•œ ν˜•νƒœλ‘œ μ œκ³΅ν•œλ‹€.
β€’
μƒμ„±λœ μ΅œμ ν™” κ²½λ‘œκ°€ ν”„λ‘œνŒŒμΌλŸ¬ 증거에 κΈ°λ°˜ν•˜μ—¬ 신뒰성을 높인닀.
β€’
λ‹€μ–‘ν•œ CUDA μ»€λ„μ—μ„œ κ°•λ ₯ν•œ LLM 기반 λͺ¨λΈ λŒ€λΉ„ μΌκ΄€λœ μ„±λŠ₯ ν–₯상을 보여쀀닀.
β€’
(ν•œκ³„μ  λ˜λŠ” ν–₯ν›„ 과제) μ œμ•ˆλœ λ°©λ²•λ‘ μ˜ 계산 λ³΅μž‘μ„±κ³Ό λ‹€μ–‘ν•œ ν•˜λ“œμ›¨μ–΄ μ•„ν‚€ν…μ²˜μ— λŒ€ν•œ μΌλ°˜ν™” κ°€λŠ₯μ„± 탐ꡬ가 ν•„μš”ν•˜λ‹€.
πŸ‘
Made with Slashpage