Sign In

Knowledge-Driven Hallucination in Large Language Models: An Empirical Study on Process Modeling

Created by
  • Haebom
Category
Empty

μ €μž

Humam Kourani, Anton Antonov, Alessandro Berti, Wil M. P. van der Aalst

πŸ’‘ κ°œμš”

λ³Έ μ—°κ΅¬λŠ” λŒ€κ·œλͺ¨ μ–Έμ–΄ λͺ¨λΈ(LLM)이 λ°©λŒ€ν•œ λ‚΄λΆ€ μ§€μ‹μœΌλ‘œ 인해 λͺ…μ‹œμ μΈ μ†ŒμŠ€ 증거와 λͺ¨μˆœλ˜λŠ” '지식 주도 ν™˜κ°' ν˜„μƒμ„ μžλ™ν™”λœ ν”„λ‘œμ„ΈμŠ€ λͺ¨λΈλ§ μž‘μ—…μ—μ„œ μ‹€μ¦μ μœΌλ‘œ μ‘°μ‚¬ν•©λ‹ˆλ‹€. ν‘œμ€€ν™”λœ νŒ¨ν„΄μ΄ λ§Žμ€ λΉ„μ¦ˆλ‹ˆμŠ€ ν”„λ‘œμ„ΈμŠ€ 관리(BPM) μ˜μ—­μ„ ν™œμš©ν•˜μ—¬, λ³Έ 논문은 제곡된 증거와 LLM의 사전 지식 κ°„μ˜ μ˜λ„μ μΈ 좩돌 μ‹œλ‚˜λ¦¬μ˜€λ₯Ό μ„€κ³„ν•˜κ³  LLM이 증거에 μ–Όλ§ˆλ‚˜ μΆ©μ‹€ν•œμ§€λ₯Ό μΈ‘μ •ν•˜λŠ” ν†΅μ œλœ μ‹€ν—˜μ„ μˆ˜ν–‰ν–ˆμŠ΅λ‹ˆλ‹€. 이 μ—°κ΅¬λŠ” LLM의 μ‹ λ’°μ„± 문제λ₯Ό ν‰κ°€ν•˜λŠ” 방법둠을 μ œμ‹œν•˜κ³  증거 기반 λ„λ©”μΈμ—μ„œ AI 생성 결과물에 λŒ€ν•œ μ—„κ²©ν•œ κ²€μ¦μ˜ ν•„μš”μ„±μ„ κ°•μ‘°ν•©λ‹ˆλ‹€.

πŸ”‘ μ‹œμ‚¬μ  및 ν•œκ³„

β€’
LLM은 λ‚΄μž¬λœ μΌλ°˜ν™”λœ 지식 λ•Œλ¬Έμ— λ•Œλ•Œλ‘œ 제곡된 ꡬ체적인 증거λ₯Ό λ¬΄μ‹œν•˜κ³  ν™˜κ°μ„ μΌμœΌν‚¬ 수 있으며, μ΄λŠ” 특히 κ·œμΉ™ 기반 λ˜λŠ” ν‘œμ€€ν™”λœ ν”„λ‘œμ„ΈμŠ€λ₯Ό λ‹€λ£° λ•Œ μ€‘μš”ν•œ λ¬Έμ œμž…λ‹ˆλ‹€.
β€’
λ³Έ μ—°κ΅¬λŠ” LLM의 '지식 주도 ν™˜κ°'을 μ²΄κ³„μ μœΌλ‘œ μΈ‘μ •ν•˜κ³  ν‰κ°€ν•˜λŠ” μ‹€ν—˜ 방법둠을 μ œμ‹œν•˜λ©°, μ΄λŠ” AI 생성 μ½˜ν…μΈ μ˜ 신뒰성을 ν‰κ°€ν•˜λŠ” 데 κΈ°μ—¬ν•©λ‹ˆλ‹€.
β€’
ν–₯ν›„ μ—°κ΅¬μ—μ„œλŠ” μ΄λŸ¬ν•œ ν™˜κ° ν˜„μƒμ˜ λ°œμƒ λ©”μ»€λ‹ˆμ¦˜μ„ 더 깊이 μ΄ν•΄ν•˜κ³ , λͺ¨λΈμ˜ 사전 지식과 μ™ΈλΆ€ 증거 κ°„μ˜ κ°ˆλ“±μ„ μ™„ν™”ν•˜κΈ° μœ„ν•œ 효과적인 μ™„ν™” μ „λž΅μ„ κ°œλ°œν•΄μ•Ό ν•  ν•„μš”κ°€ μžˆμŠ΅λ‹ˆλ‹€.
πŸ‘
Made with Slashpage