Sign In

Reasoning Theater: Disentangling Model Beliefs from Chain-of-Thought

μž‘μ„±μž
  • Haebom
μΉ΄ν…Œκ³ λ¦¬
Empty

μ €μž

Siddharth Boppana, Annabel Ma, Max Loeffler, Raphael Sarfati, Eric Bigelow, Atticus Geiger, Owen Lewis, Jack Merullo

πŸ’‘ κ°œμš”

λ³Έ μ—°κ΅¬λŠ” λŒ€κ·œλͺ¨ μ–Έμ–΄ λͺ¨λΈμ΄ μΆ”λ‘  κ³Όμ •μ—μ„œ μ‹€μ œ μ‹ λ…κ³ΌλŠ” λ³„κ°œλ‘œ μ΅œμ’… 닡변에 λŒ€ν•œ 확신을 λ³΄μ΄λŠ” "μˆ˜ν–‰μ  연쇄 사고(performative chain-of-thought)" ν˜„μƒμ„ λ°œκ²¬ν–ˆμŠ΅λ‹ˆλ‹€. ν™œμ„±ν™” 탐색, μ‘°κΈ° κ°•μ œ λ‹΅λ³€, CoT λͺ¨λ‹ˆν„° 비ꡐ 뢄석 κ²°κ³Ό, 특히 μ‰¬μš΄ 질문의 경우 λͺ¨λΈμ˜ μ΅œμ’… 닡변은 CoT 생성 μ΄ˆλ°˜λΆ€ν„° 해석 κ°€λŠ₯ν–ˆμ§€λ§Œ, λͺ¨λ‹ˆν„°λŠ” 이λ₯Ό νŒŒμ•…ν•˜μ§€ λͺ»ν•˜λŠ” κ²ƒμœΌλ‘œ λ‚˜νƒ€λ‚¬μŠ΅λ‹ˆλ‹€. μ΄λŠ” μ‹€μ œ μΆ”λ‘  κ³Όμ •κ³Ό μˆ˜ν–‰μ  연쇄 사고λ₯Ό ꡬ뢄할 수 μžˆλŠ” κ°€λŠ₯성을 μ œμ‹œν•˜λ©°, ν™œμ„±ν™” 탐색이 μˆ˜ν–‰μ  μΆ”λ‘  감지 및 μ μ‘ν˜• μ»΄ν“¨νŒ…μ„ μœ„ν•œ 효율적인 λ„κ΅¬μž„μ„ μ‹œμ‚¬ν•©λ‹ˆλ‹€.

πŸ”‘ μ‹œμ‚¬μ  및 ν•œκ³„

β€’
μ–Έμ–΄ λͺ¨λΈμ˜ μΆ”λ‘  κ³Όμ •μ—μ„œ λ‚˜νƒ€λ‚˜λŠ” "μˆ˜ν–‰μ  연쇄 사고" ν˜„μƒμ„ 졜초둜 규λͺ…ν•˜κ³ , μ‹€μ œ 신념과 μˆ˜ν–‰μ  행동을 ꡬ뢄할 수 μžˆλŠ” 방법둠을 μ œμ‹œν–ˆμŠ΅λ‹ˆλ‹€.
β€’
ν™œμ„±ν™” 탐색(activation probing) 기법이 λͺ¨λΈμ˜ μ‹€μ œ 신념 λ³€ν™”λ₯Ό 효과적으둜 κ°μ§€ν•˜μ—¬, μΆ”λ‘  과정을 μ΅œμ ν™”ν•˜κ³  λΆˆν•„μš”ν•œ 토큰 생성을 μ€„μ΄λŠ” 데 κΈ°μ—¬ν•  수 μžˆμŒμ„ λ³΄μ—¬μ£Όμ—ˆμŠ΅λ‹ˆλ‹€.
β€’
λ³Έ μ—°κ΅¬μ—μ„œ μ œμ‹œλœ ν™œμ„±ν™” 탐색 기반 μ‘°κΈ° μ’…λ£Œ 방식은 MMLUμ—μ„œλŠ” μ΅œλŒ€ 80%, GPQA-Diamondμ—μ„œλŠ” 30%의 토큰 κ°μ†Œ νš¨κ³Όμ™€ ν•¨κ»˜ 정확도λ₯Ό μœ μ§€ν–ˆμ§€λ§Œ, λ³΅μž‘ν•œ 닀단계 μΆ”λ‘ μ΄λ‚˜ λ‹€μ–‘ν•œ μœ ν˜•μ˜ μ–Έμ–΄ λͺ¨λΈμ— λŒ€ν•œ μΌλ°˜ν™” κ°€λŠ₯μ„± 및 적용 λ²”μœ„λ₯Ό 더 ν™•μž₯ν•˜λŠ” 연ꡬ가 ν•„μš”ν•©λ‹ˆλ‹€.
πŸ‘
Made with Slashpage