Sign In

Games for AI Control: Models of Safety Evaluations of AI Deployment Protocols

μž‘μ„±μž
  • Haebom
μΉ΄ν…Œκ³ λ¦¬
Empty

μ €μž

Charlie Griffin, Louis Thomson, Buck Shlegeris, Alessandro Abate

πŸ’‘ κ°œμš”

이 논문은 μ‹ λ’°ν•  수 μ—†λŠ” AI 배포 ν”„λ‘œν† μ½œμ˜ μ•ˆμ „μ„±κ³Ό μœ μš©μ„±μ„ ν‰κ°€ν•˜κΈ° μœ„ν•΄, ν”„λ‘œν† μ½œ μ„€κ³„μžμ™€ 곡격자 κ°„μ˜ λ ˆλ“œνŒ€ ν›ˆλ ¨μ„ AI μ œμ–΄ κ²Œμž„μœΌλ‘œ λͺ¨λΈλ§ν–ˆμŠ΅λ‹ˆλ‹€. μ œμ•ˆλœ AI-Control GamesλŠ” λ‹€λͺ©μ , λΆ€λΆ„μ μœΌλ‘œ κ΄€μΈ‘ κ°€λŠ₯ν•œ ν™•λ₯  κ²Œμž„μœΌλ‘œ, κΈ°μ‘΄ μ•Œκ³ λ¦¬μ¦˜μ„ ν™œμš©ν•˜μ—¬ 졜적의 ν”„λ‘œν† μ½œμ„ 찾을 수 μžˆλ„λ‘ μ œλ‘œμ„¬ κ²Œμž„μœΌλ‘œ ν™˜μ›ν–ˆμŠ΅λ‹ˆλ‹€. 이λ₯Ό 톡해 ν”„λ‘œκ·Έλž˜λ° 보쑰 λ„κ΅¬λ‘œ μ‚¬μš©λ˜λŠ” μ‹ λ’°ν•  수 μ—†λŠ” μ–Έμ–΄ λͺ¨λΈ 배포 ν”„λ‘œν† μ½œμ„ ν‰κ°€ν•˜κ³  ν•©μ„±ν•˜λŠ” 데 μ„±κ³΅ν–ˆμŠ΅λ‹ˆλ‹€.

πŸ”‘ μ‹œμ‚¬μ  및 ν•œκ³„

β€’
AI 배포 ν”„λ‘œν† μ½œμ˜ μ•ˆμ „μ„±κ³Ό μœ μš©μ„±μ„ ν˜•μ‹μ μœΌλ‘œ λͺ¨λΈλ§ν•˜κ³  평가할 수 μžˆλŠ” 일반적인 ν”„λ ˆμž„μ›Œν¬λ₯Ό μ œκ³΅ν•©λ‹ˆλ‹€.
β€’
μ‹ λ’°ν•  수 μ—†λŠ” μ–Έμ–΄ λͺ¨λΈμ„ ν”„λ‘œκ·Έλž˜λ° 보쑰 λ„κ΅¬λ‘œ μ‚¬μš©ν•˜λŠ” κ²½μš°μ— λŒ€ν•œ ꡬ체적인 ν”„λ‘œν† μ½œ 평가와 κ°œμ„  κ°€λŠ₯성을 λ³΄μ—¬μ€λ‹ˆλ‹€.
β€’
λͺ¨λΈλ§ κ°€μ •μ˜ λ³€ν™”κ°€ ν”„λ‘œν† μ½œμ˜ μ•ˆμ „μ„±κ³Ό μœ μš©μ„±μ— λ―ΈμΉ˜λŠ” 영ν–₯을 λΆ„μ„ν•˜μ—¬, μ‹€μ œ 적용 μ‹œ κ³ λ €ν•΄μ•Ό ν•  사항듀을 μ œμ‹œν•©λ‹ˆλ‹€.
β€’
(ν•œκ³„μ  λ˜λŠ” ν–₯ν›„ 과제) λ³΅μž‘ν•˜κ³  동적인 AI μ‹œμŠ€ν…œμ˜ λͺ¨λ“  잠재적 μœ„ν—˜μ„ μ™„μ „νžˆ ν¬μ°©ν•˜λŠ” 것은 μ—¬μ „νžˆ μ–΄λ ΅κΈ° λ•Œλ¬Έμ—, μ‹€μ œ ν™˜κ²½μ—μ„œμ˜ κ΄‘λ²”μœ„ν•œ 검증과 더 μ •κ΅ν•œ κ²Œμž„ λͺ¨λΈ 개발이 ν•„μš”ν•  수 μžˆμŠ΅λ‹ˆλ‹€.
πŸ‘
Made with Slashpage