Sign In

Learning the Preferences of a Learning Agent

μž‘μ„±μž
  • Haebom
μΉ΄ν…Œκ³ λ¦¬
Empty

μ €μž

Karim Abdel Sadek, Mark Bedaywi, Rhys Gould, Stuart Russell

πŸ’‘ κ°œμš”

λ³Έ μ—°κ΅¬λŠ” κ΄€μ°°λœ 행동을 톡해 μΈκ°„μ˜ μ„ ν˜Έλ„λ₯Ό μΆ”λ‘ ν•˜λŠ” κΈ°μ‘΄ μ—­ κ°•ν™”ν•™μŠ΅(IRL)의 ν•œκ³„μ , 즉 인간이 졜적이라고 κ°€μ •ν•˜λŠ” 점을 κ·Ήλ³΅ν•˜κ³ μž ν•©λ‹ˆλ‹€. ν•™μŠ΅ν•˜λŠ” μ—μ΄μ „νŠΈμ˜ μ„ ν˜Έλ„λ₯Ό ν•™μŠ΅ν•˜λŠ” 문제λ₯Ό κ³΅μ‹ν™”ν•˜μ—¬, μ˜¨λΌμΈμ—μ„œ ν•™μŠ΅ν•˜λŠ” μ—μ΄μ „νŠΈμ˜ 행동을 κ΄€μ°°ν•˜λ©° μ΄ˆκΈ°μ—λŠ” 졜적이 아닐 수 μžˆλŠ” μ—μ΄μ „νŠΈκ°€ μ΅œμ ν™”ν•˜κ³  μžˆλŠ” 근본적인 보상 ν•¨μˆ˜λ₯Ό μΆ”λ‘ ν•˜λŠ” 방법을 μ œμ•ˆν•©λ‹ˆλ‹€.

πŸ”‘ μ‹œμ‚¬μ  및 ν•œκ³„

β€’
ν•™μŠ΅ 쀑인 μ—μ΄μ „νŠΈμ˜ μ„ ν˜Έλ„λ₯Ό μΆ”λ‘ ν•¨μœΌλ‘œμ¨, μ‹€μ œ μΈκ°„μ²˜λŸΌ ν•™μŠ΅ 과정에 μžˆλŠ” 주체의 행동을 더 μ •ν™•ν•˜κ²Œ μ΄ν•΄ν•˜κ³  지원할 수 μžˆμŠ΅λ‹ˆλ‹€.
β€’
μ—μ΄μ „νŠΈκ°€ λ¬΄νšŒν”Ό(no-regret) ν•™μŠ΅μ„ ν•˜κ±°λ‚˜ μ‹œκ°„μ— 따라 졜적 볼츠만 μ •μ±…μœΌλ‘œ μˆ˜λ ΄ν•˜λŠ” κ²½μš°μ— λŒ€ν•œ 이둠적 보증을 μ œμ‹œν•˜μ—¬, λ‹€μ–‘ν•œ μ„ ν˜Έλ„ ν•™μŠ΅ μ•Œκ³ λ¦¬μ¦˜μ˜ μ„±λŠ₯을 뢄석할 수 μžˆμŠ΅λ‹ˆλ‹€.
β€’
ν•™μŠ΅ν•˜λŠ” μ—μ΄μ „νŠΈμ˜ λͺ¨λΈλ§μ΄ λ³΅μž‘ν•΄μ§μ— 따라, μ‹€μ œ ν™˜κ²½μ—μ„œ λ°œμƒν•˜λŠ” λ‹€μ–‘ν•œ ν•™μŠ΅ μ‹œλ‚˜λ¦¬μ˜€μ— λŒ€ν•œ μΌλ°˜ν™” 및 ν™•μž₯ κ°€λŠ₯성은 좔가적인 연ꡬ가 ν•„μš”ν•©λ‹ˆλ‹€.
πŸ‘
Made with Slashpage