Sign In

Hallucination as an Anomaly: Dynamic Intervention via Probabilistic Circuits

μž‘μ„±μž
  • Haebom
μΉ΄ν…Œκ³ λ¦¬
Empty

μ €μž

Erik Nielsen, Elia Cunegatti, Marcus Vukojevic, Giovanni Iacca

πŸ’‘ κ°œμš”

이 μ—°κ΅¬λŠ” λŒ€κ·œλͺ¨ μ–Έμ–΄ λͺ¨λΈ(LLM)의 μ£Όμš” 문제점인 ν™˜κ°(hallucination) ν˜„μƒμ„ ν•΄κ²°ν•˜κΈ° μœ„ν•΄, ν™˜κ°μ„ κΈ°ν•˜ν•™μ  μ΄μƒμΉ˜λ‘œ κ°„μ£Όν•˜λŠ” μƒˆλ‘œμš΄ μ ‘κ·Ό 방식인 PCNET을 μ œμ•ˆν•©λ‹ˆλ‹€. PCNET은 LLM의 μž”μ°¨ μŠ€νŠΈλ¦Όμ— λŒ€ν•œ ν™•λ₯  회둜λ₯Ό ν•™μŠ΅ν•˜μ—¬ ν™˜κ°μ„ μ •ν™•ν•˜κ²Œ νƒμ§€ν•˜κ³ , 이λ₯Ό 기반으둜 ν™˜κ° λ°œμƒ μ‹œμ—λ§Œ κ°œμž…ν•˜λŠ” 동적 λ””μ½”λ”© 기법인 PC-LDCDλ₯Ό κ°œλ°œν–ˆμŠ΅λ‹ˆλ‹€. 이λ₯Ό 톡해 κΈ°μ‘΄ λ°©λ²•μ˜ μ˜€κ²€μΆœ 문제λ₯Ό ν•΄κ²°ν•˜κ³  μ„±λŠ₯을 ν–₯μƒμ‹œμΌ°μŠ΅λ‹ˆλ‹€.

πŸ”‘ μ‹œμ‚¬μ  및 ν•œκ³„

β€’
ν™˜κ°μ„ μ΄μƒμΉ˜λ‘œ κ°„μ£Όν•˜μ—¬ μƒ˜ν”Œλ§, μ™ΈλΆ€ 검증기, κ°€μ€‘μΉ˜ μˆ˜μ • 없이 효율적으둜 탐지할 수 μžˆμŠ΅λ‹ˆλ‹€.
β€’
ν™˜κ° λ°œμƒ μ‹œμ—λ§Œ κ°œμž…ν•˜λŠ” 동적 λ””μ½”λ”© 방식을 톡해 기쑴의 μ˜¬λ°”λ₯Έ 생성물을 ν›Όμ†ν•˜μ§€ μ•ŠμœΌλ©΄μ„œ ν™˜κ°μ„ 효과적으둜 κ΅μ •ν•©λ‹ˆλ‹€.
β€’
λ‹€μ–‘ν•œ LLMκ³Ό λ²€μΉ˜λ§ˆν¬μ—μ„œ λ›°μ–΄λ‚œ ν™˜κ° 탐지 μ„±λŠ₯κ³Ό 생성 정확도λ₯Ό λ³΄μ—¬μ£Όμ—ˆμŠ΅λ‹ˆλ‹€.
β€’
ν–₯ν›„ 더 큰 규λͺ¨μ˜ λͺ¨λΈμ΄λ‚˜ 더 λ³΅μž‘ν•œ μœ ν˜•μ˜ ν™˜κ°μ— λŒ€ν•œ 적용 κ°€λŠ₯μ„±κ³Ό μ„±λŠ₯을 μΆ”κ°€μ μœΌλ‘œ 검증할 ν•„μš”κ°€ μžˆμŠ΅λ‹ˆλ‹€.
πŸ‘
Made with Slashpage