Sign In

Think Before You Lie: How Reasoning Improves Honesty

Created by
  • Haebom
Category
Empty

μ €μž

Ann Yuan, Asma Ghandeharioun, Carter Blum, Alicia Machado, Jessica Hoffmann, Daphne Ippolito, Martin Wattenberg, Lucas Dixon, Katja Filippova

πŸ’‘ κ°œμš”

λ³Έ μ—°κ΅¬λŠ” λŒ€κ·œλͺ¨ μ–Έμ–΄ λͺ¨λΈ(LLM)의 기만 행동을 μœ λ°œν•˜λŠ” μš”μΈμ„ μ΄ν•΄ν•˜κΈ° μœ„ν•΄, 정직성이 가변적인 λΉ„μš©μ„ μˆ˜λ°˜ν•˜λŠ” μ‹€μ œ 도덕적 λ”œλ ˆλ§ˆ 데이터셋을 κ΅¬μΆ•ν•˜μ—¬ κΈ°λ§Œμœ¨μ„ ν‰κ°€ν–ˆμŠ΅λ‹ˆλ‹€. 인간과 달리, LLM은 μΆ”λ‘  과정을 거칠수둝 μΌκ΄€λ˜κ²Œ 정직성이 μ¦κ°€ν•˜λŠ” κ²½ν–₯을 λ³΄μ˜€μŠ΅λ‹ˆλ‹€. μ΄λŸ¬ν•œ μΆ”λ‘ μ˜ νš¨κ³ΌλŠ” μΆ”λ‘  λ‚΄μš© μžμ²΄λ³΄λ‹€λŠ”, 기만적인 닡변이 μ •μ§ν•œ 닡변보닀 λΆˆμ•ˆμ •ν•˜λ‹€λŠ” ν‘œν˜„ κ³΅κ°„μ˜ κΈ°ν•˜ν•™μ  νŠΉμ„±μ—μ„œ λΉ„λ‘―λœλ‹€λŠ” 것을 λ°œκ²¬ν–ˆμŠ΅λ‹ˆλ‹€.

πŸ”‘ μ‹œμ‚¬μ  및 ν•œκ³„

β€’
LLM의 기만 행동은 μΆ”λ‘  κ³Όμ •μ—μ„œ ν‘œν˜„ κ³΅κ°„μ˜ μ•ˆμ •μ„±μœΌλ‘œ 인해 μ •μ§ν•œ λ°©ν–₯으둜 μœ λ„λ  수 μžˆμŠ΅λ‹ˆλ‹€.
β€’
λ‹¨μˆœνžˆ μΆ”λ‘  λ‚΄μš©λ³΄λ‹€λŠ”, μΆ”λ‘  κ³Όμ •μ—μ„œ λ°œμƒν•˜λŠ” ν‘œν˜„ κ³΅κ°„μ˜ 역학이 LLM의 정직성에 μ€‘μš”ν•œ 영ν–₯을 λ―ΈμΉ©λ‹ˆλ‹€.
β€’
ν–₯ν›„ μ—°κ΅¬μ—μ„œλŠ” λ‹€μ–‘ν•œ LLM μ•„ν‚€ν…μ²˜μ™€ 데이터셋에 λŒ€ν•œ μΌλ°˜ν™” κ°€λŠ₯성을 κ²€μ¦ν•˜κ³ , ν‘œν˜„ κ³΅κ°„μ˜ λΆˆμ•ˆμ •μ„±μ„ 정직성 ν–₯상을 μœ„ν•œ μ‘°μž‘ κ°€λŠ₯μ„±μœΌλ‘œ 탐색할 ν•„μš”κ°€ μžˆμŠ΅λ‹ˆλ‹€.
πŸ‘
Made with Slashpage