Sign In

Free Energy Manifold: Score-Based Inference for Hybrid Bayesian Networks

μž‘μ„±μž
  • Haebom
μΉ΄ν…Œκ³ λ¦¬
Empty

μ €μž

Cheol Young Park, Shou Matsumoto

πŸ’‘ κ°œμš”

λ³Έ μ—°κ΅¬λŠ” μ΄μ‚°ν˜• 및 μ—°μ†ν˜• λ³€μˆ˜λ₯Ό λͺ¨λ‘ ν¬ν•¨ν•˜λŠ” ν•˜μ΄λΈŒλ¦¬λ“œ λ² μ΄μ§€μ•ˆ λ„€νŠΈμ›Œν¬μ—μ„œμ˜ 좔둠을 μœ„ν•΄ μƒˆλ‘­κ²Œ μ œμ•ˆλœ μŠ€μ½”μ–΄ ν•™μŠ΅ 기반 쑰건뢀 μ—λ„ˆμ§€ λͺ¨λΈμΈ Free Energy Manifold(FEM)λ₯Ό μ†Œκ°œν•©λ‹ˆλ‹€. FEM은 ν•™μŠ΅λœ 이산 λΆ€λͺ¨ μž„λ² λ”©κ³Ό 연속 관츑값에 λŒ€ν•œ μ—λ„ˆμ§€ μ§€ν˜•μœΌλ‘œ 각 쑰건뢀 μš”μ†Œλ₯Ό ν‘œν˜„ν•˜μ—¬, 쑰건뢀 독립성 ν•˜μ—μ„œ μ—λ„ˆμ§€ λ§μ…ˆμ„ 톡해 사후 ν™•λ₯  평가, 생성 μƒ˜ν”Œλ§, 닀쀑 연속 리프 μ „λ°˜μ˜ ꡬ성 좔둠을 κ°€λŠ₯ν•˜κ²Œ ν•©λ‹ˆλ‹€.

πŸ”‘ μ‹œμ‚¬μ  및 ν•œκ³„

β€’
μƒˆλ‘œμš΄ λͺ¨λΈ μ•„ν‚€ν…μ²˜: FEM은 ν•˜μ΄λΈŒλ¦¬λ“œ λ² μ΄μ§€μ•ˆ λ„€νŠΈμ›Œν¬μ—μ„œ λ³΅μž‘ν•œ 사후 ν™•λ₯  뢄포λ₯Ό 효율적으둜 λͺ¨λΈλ§ν•  수 μžˆλŠ” μƒˆλ‘œμš΄ ν”„λ ˆμž„μ›Œν¬λ₯Ό μ œκ³΅ν•©λ‹ˆλ‹€.
β€’
λͺ¨λ“œ λΈŒλ¦Ώμ§€ 문제 ν•΄κ²°: κΈ°μ‘΄ 쑰건뢀 μ—λ„ˆμ§€ λͺ¨λΈμ˜ λͺ¨λ“œ λΈŒλ¦Ώμ§€ ν˜„μƒμ„ λΆ„μ„ν•˜κ³ , 이λ₯Ό μ™„ν™”ν•˜κΈ° μœ„ν•œ 밸리 μ •κ·œν™” 기법을 μ œμ•ˆν•˜μ—¬ μ˜€ν”„λ°μ΄ν„° μ˜μ—­μ—μ„œμ˜ 과신을 μ€„μž…λ‹ˆλ‹€.
β€’
μ„±λŠ₯ ν–₯상: μ œμ•ˆλœ FEM은 ν•©μ„± 데이터셋 및 μ‹€μ œ λ°μ΄ν„°μ…‹μ—μ„œ κΈ°μ‘΄ 방법둠 λŒ€λΉ„ KL λ°œμ‚°μ„ μœ μ˜λ―Έν•˜κ²Œ κ°μ†Œμ‹œν‚€λ©°, 특히 닀봉뢄포 및 λ³΅μž‘ν•œ κ΅¬μ‘°μ—μ„œμ˜ 좔둠에 강점을 λ³΄μž…λ‹ˆλ‹€.
β€’
ν•œκ³„μ : FEM은 닀봉뢄포 λ˜λŠ” ꡬ성적 좔둠이 ν•„μš”ν•œ κ²½μš°μ— κ°€μž₯ μœ μš©ν•˜λ©°, 일반적인 λΆ„λ₯˜ λ¬Έμ œμ—μ„œλŠ” νŒλ³„μ  λΆ„λ₯˜κΈ°κ°€ μ—¬μ „νžˆ 더 λ‚˜μ€ μ„±λŠ₯을 보일 수 μžˆμŠ΅λ‹ˆλ‹€.
πŸ‘