Sign In

ORTHOBO: Orthogonal Bayesian Hyperparameter Optimization

μž‘μ„±μž
  • Haebom
μΉ΄ν…Œκ³ λ¦¬
Empty

μ €μž

Maresa Schroder, Pascal Janetzky, Michael Klar, Stefan Feuerriegel

πŸ’‘ κ°œμš”

이 논문은 λ² μ΄μ§€μ•ˆ μ΅œμ ν™”(Bayesian Optimization)μ—μ„œ λ°œμƒν•˜λŠ” νšλ“ ν•¨μˆ˜(acquisition function) μΆ”μ •μΉ˜μ˜ λ…Έμ΄μ¦ˆ 문제λ₯Ό ν•΄κ²°ν•˜κΈ° μœ„ν•΄ μƒˆλ‘œμš΄ '직ꡐ νšλ“ μΆ”μ •κΈ°(Orthogonal Acquisition Estimator)'λ₯Ό μ œμ•ˆν•©λ‹ˆλ‹€. μ œμ•ˆλœ 방법은 λͺ¬ν…ŒμΉ΄λ₯Όλ‘œ(Monte Carlo) μΆ”μ • 였λ₯˜λ‘œ μΈν•œ 뢄산을 쀄여 후보 μˆœμœ„μ˜ λΆˆμ•ˆμ •μ„±μ„ μ™„ν™”ν•˜κ³ , 이λ₯Ό 톡해 λ² μ΄μ§€μ•ˆ μ΅œμ ν™”μ˜ μ˜μ‚¬ κ²°μ • ν’ˆμ§ˆμ„ ν–₯μƒμ‹œν‚€λŠ” 것을 λͺ©ν‘œλ‘œ ν•©λ‹ˆλ‹€. ꢁ극적으둜, OrthoBOλΌλŠ” ν”„λ ˆμž„μ›Œν¬λ₯Ό 톡해 신경망 ν•˜μ΄νΌνŒŒλΌλ―Έν„° μ΅œμ ν™” λ“± μ‹€μ œ λ¬Έμ œμ—μ„œ κ°•λ ₯ν•œ μ„±λŠ₯을 μž…μ¦ν•©λ‹ˆλ‹€.

πŸ”‘ μ‹œμ‚¬μ  및 ν•œκ³„

β€’
λ² μ΄μ§€μ•ˆ μ΅œμ ν™”μ˜ 근본적인 문제인 νšλ“ ν•¨μˆ˜ μΆ”μ • λ…Έμ΄μ¦ˆλ₯Ό '직ꡐ성'μ΄λΌλŠ” μƒˆλ‘œμš΄ κ΄€μ μ—μ„œ λΆ„μ„ν•˜κ³  효과적인 해결책을 μ œμ‹œν–ˆμŠ΅λ‹ˆλ‹€.
β€’
μ œμ•ˆλœ 직ꡐ νšλ“ μΆ”μ •κΈ°λŠ” 이둠적 뢄석과 μ‹€ν—˜μ„ 톡해 λΆ„μ‚° κ°μ†Œ 및 μˆœμœ„ μ•ˆμ •μ„± ν–₯상을 μž…μ¦ν•˜μ—¬, λ”μš± μ•ˆμ •μ μ΄κ³  효율적인 ν•˜μ΄νΌνŒŒλΌλ―Έν„° μ΅œμ ν™”λ₯Ό κ°€λŠ₯ν•˜κ²Œ ν•©λ‹ˆλ‹€.
β€’
μ œμ•ˆλœ 방법이 λͺ¨λ“  μ’…λ₯˜μ˜ λ² μ΄μ§€μ•ˆ μ΅œμ ν™” μ„€μ •μ—μ„œ 항상 졜적의 μ„±λŠ₯을 보μž₯ν•˜λŠ”μ§€μ— λŒ€ν•œ 좔가적인 연ꡬ가 ν•„μš”ν•˜λ©°, λ³΅μž‘ν•œ λͺ¨λΈμ΄λ‚˜ λŒ€κ·œλͺ¨ λ°μ΄ν„°μ…‹μ—μ„œμ˜ 계산 νš¨μœ¨μ„± λ˜ν•œ κ³ λ €ν•΄μ•Ό ν•  λΆ€λΆ„μž…λ‹ˆλ‹€.
πŸ‘
Made with Slashpage