Sign In

Ambiguity Collapse by LLMs: A Taxonomy of Epistemic Risks

Created by
  • Haebom
Category
Empty

μ €μž

Shira Gur-Arieh, Angelina Wang, Sina Fazelpour

πŸ’‘ κ°œμš”

λ³Έ 논문은 λŒ€κ·œλͺ¨ μ–Έμ–΄ λͺ¨λΈ(LLM)이 μ—¬λŸ¬ 해석이 κ°€λŠ₯ν•œ λͺ¨ν˜Έν•œ μš©μ–΄λ₯Ό μ ‘ν–ˆμ„ λ•Œ λ‹¨μΌν•œ 해결책을 μ œμ‹œν•˜μ—¬ λ°œμƒν•˜λŠ” 'λͺ¨ν˜Έμ„± λΆ•κ΄΄(ambiguity collapse)' ν˜„μƒμ„ μ†Œκ°œν•©λ‹ˆλ‹€. μ΄λŠ” μΈκ°„μ˜ 의미 ν˜‘μƒ 과정을 μš°νšŒν•˜λ©°, LLM이 μ΄λŸ¬ν•œ λͺ¨ν˜Έμ„±μ„ μ²˜λ¦¬ν•˜λŠ” κ³Όμ •μ—μ„œ λ°œμƒν•˜λŠ” 인식둠적 μœ„ν—˜μ„ μ„Έ 가지 μˆ˜μ€€(ν”„λ‘œμ„ΈμŠ€, 좜λ ₯, μƒνƒœκ³„)으둜 λΆ„λ₯˜ν•©λ‹ˆλ‹€. λ˜ν•œ, 이 μœ„ν—˜μ„ μ™„ν™”ν•˜κΈ° μœ„ν•œ 닀측적 원칙을 μ œμ‹œν•˜λ©°, λͺ¨ν˜Έμ„±μ„ λ³΄μ‘΄ν•˜κ³  μ±…μž„κ° 있게 κ΄€λ¦¬ν•˜λŠ” μ‹œμŠ€ν…œ 섀계λ₯Ό λͺ©ν‘œλ‘œ ν•©λ‹ˆλ‹€.

πŸ”‘ μ‹œμ‚¬μ  및 ν•œκ³„

β€’
LLM의 λͺ¨ν˜Έμ„± 처리 방식은 μΈκ°„μ˜ 의미 ν˜‘μƒ 과정을 λ‹¨μˆœν™”ν•˜κ³  μš°νšŒν•¨μœΌλ‘œμ¨ 인식둠적 μœ„ν—˜μ„ μ΄ˆλž˜ν•  수 μžˆμŠ΅λ‹ˆλ‹€.
β€’
λͺ¨ν˜Έμ„± λΆ•κ΄΄λŠ” LLM의 좜λ ₯ 결과뿐만 μ•„λ‹ˆλΌ, ν•™μŠ΅ 및 μ‚¬νšŒ μ „λ°˜μ˜ κ°œλ… λ°œμ „κ³Ό 해석 κ·œλ²”μ—λ„ 영ν–₯을 λ―ΈμΉ  수 μžˆμŠ΅λ‹ˆλ‹€.
β€’
LLM이 λͺ¨ν˜Έμ„±μ„ λ‹¨μˆœνžˆ ν•˜λ‚˜μ˜ 의미둜 νšμΌν™”ν•˜λŠ” 것을 λ„˜μ–΄, μΈκ°„μ˜ 생산적인 의미 ν˜‘μƒ 과정을 μ§€μ›ν•˜κ³  λͺ¨ν˜Έμ„±μ„ responsiblyν•˜κ²Œ κ΄€λ¦¬ν•˜λŠ” μ‹œμŠ€ν…œ 섀계가 ν•„μš”ν•©λ‹ˆλ‹€.
πŸ‘
Made with Slashpage