Sign In

Hidden Error Awareness in Chain-of-Thought Reasoning: The Signal Is Diagnostic, Not Causal

μž‘μ„±μž
  • Haebom
μΉ΄ν…Œκ³ λ¦¬
Empty

μ €μž

Aojie Yuan, Zhiyuan Julian Su, Haiyue Zhang, Yi Nian, Yue Zhao

πŸ’‘ κ°œμš”

λ³Έ μ—°κ΅¬λŠ” Chain-of-Thought (CoT) μΆ”λ‘  μ‹œ μ–Έμ–΄ λͺ¨λΈμ΄ μƒμ„±λœ μΆ”λ‘  과정을 λ‚΄λΆ€μ μœΌλ‘œ κ°μ§€ν•˜μ§€λ§Œ, 였λ₯˜ λ°œμƒ μ‹œμ—λ„ 높은 신뒰도λ₯Ό ν‘œν˜„ν•œλ‹€λŠ” 사싀을 λ°œκ²¬ν–ˆμŠ΅λ‹ˆλ‹€. 은닉 μƒνƒœμ— λŒ€ν•œ μ„ ν˜• ν”„λ‘œλΈŒλŠ” μΆ”λ‘  κ³Όμ •μ˜ 정확도λ₯Ό 높은 AUC둜 μ˜ˆμΈ‘ν•  수 μžˆμ—ˆμœΌλ‚˜, ν…μŠ€νŠΈ ν‘œλ©΄ λΆ„μ„μœΌλ‘œλŠ” 이λ₯Ό νŒŒμ•…ν•˜κΈ° μ–΄λ €μ› μŠ΅λ‹ˆλ‹€. μ΄λŠ” λͺ¨λΈμ΄ λ‚΄λΆ€μ μœΌλ‘œ 였λ₯˜λ₯Ό μΈμ§€ν•˜μ§€λ§Œ, 이λ₯Ό μˆ˜μ •ν•˜λŠ” λ°μ—λŠ” ν•œκ³„κ°€ μžˆμŒμ„ μ‹œμ‚¬ν•©λ‹ˆλ‹€.

πŸ”‘ μ‹œμ‚¬μ  및 ν•œκ³„

β€’
μ–Έμ–΄ λͺ¨λΈμ€ CoT μΆ”λ‘  κ³Όμ •μ—μ„œ μžμ‹ μ˜ 였λ₯˜λ₯Ό λ‚΄λΆ€μ μœΌλ‘œ 인지할 수 μžˆλŠ” λŠ₯λ ₯을 가지고 μžˆμŠ΅λ‹ˆλ‹€.
β€’
λͺ¨λΈμ˜ λ‚΄λΆ€ μƒνƒœλ₯Ό λΆ„μ„ν•˜λŠ” 것이 ν…μŠ€νŠΈ ν‘œλ©΄μ˜ ν‘œν˜„λ³΄λ‹€ μΆ”λ‘  였λ₯˜λ₯Ό 더 μ •ν™•ν•˜κ²Œ νŒŒμ•…ν•  수 μžˆλŠ” 진단 μ‹ ν˜Έκ°€ 될 수 μžˆμŠ΅λ‹ˆλ‹€.
β€’
λ‚΄λΆ€ 였λ₯˜ 감지 μ‹ ν˜ΈλŠ” 진단적일 뿐, 였λ₯˜λ₯Ό 직접 μˆ˜μ •ν•˜λŠ” 인과적 역할을 ν•˜μ§€ λͺ»ν•˜λ©°, ν˜„μž¬ 기계적 해석 κ°€λŠ₯μ„± μ—°κ΅¬μ˜ ν•œκ³„λ₯Ό λ³΄μ—¬μ€λ‹ˆλ‹€.
β€’
였λ₯˜ μ‹ ν˜Έμ˜ 진단적 νŠΉμ„±μ„ μ΄μš©ν•˜μ—¬ μΆ”λ‘  였λ₯˜λ₯Ό μˆ˜μ •ν•˜λ €λŠ” μ‹œλ„(ν™œμ„±ν™” μ œμ–΄, 자체 ꡐ정 λ“±)κ°€ μ‹€νŒ¨ν–ˆμœΌλ©°, μ΄λŠ” 였λ₯˜ ν‘œν˜„κ³Ό 지식 ν‘œν˜„μ˜ 근본적인 차이λ₯Ό λ‚˜νƒ€λƒ…λ‹ˆλ‹€.
πŸ‘
Made with Slashpage