# Are we Doomed to an AI Race? Why Self-Interest Could Drive Countries Towards a Moratorium on Superintelligence ### μ €μž Edward Roussel, Lode Lauwaert, Torben Swoboda, Grant Ramsey, Risto Uuk, Leonard Dung, Anthony Aguirre ### πŸ’‘ κ°œμš” λ³Έ 논문은 κ²Œμž„ 이둠을 ν™œμš©ν•˜μ—¬, μ΄ˆμ§€λŠ₯(ASI) 개발 경쟁이 κ΅­κ°€μ˜ 자기 이읡에 λ°˜ν•  수 있으며, 였히렀 ASI 개발 유예(moratorium)κ°€ κ΅­κ°€μ˜ 자발적 선택이 될 수 μžˆλ‹€λŠ” μ£Όμž₯을 μ œμ‹œν•©λ‹ˆλ‹€. κ°•λŒ€κ΅­ κ°„ μ „λž΅μ  μƒν˜Έμž‘μš©μ„ λͺ¨λΈλ§ν•˜μ—¬, 기술적 μš°μœ„ ν™•λ³΄μ˜ 이점과 ν†΅μ œ λΆˆκ°€λŠ₯ν•œ ASI둜 μΈν•œ 파멸적 μœ„ν—˜ κ°„μ˜ 상좩 관계λ₯Ό λΆ„μ„ν•©λ‹ˆλ‹€. 뢄석 κ²°κ³Ό, ν†΅μ œ μƒμ‹€μ˜ λΉ„μš©μ΄ λ‹€λ₯Έ λ§€κ°œλ³€μˆ˜μ— λΉ„ν•΄ μΆ©λΆ„νžˆ 컀지면, 각 κ΅­κ°€κ°€ ASI 개발 유예λ₯Ό μ„ νƒν•˜λŠ” 것이 자기 이읡에 뢀합함을 λ³΄μ—¬μ€λ‹ˆλ‹€. ### πŸ”‘ μ‹œμ‚¬μ  및 ν•œκ³„ - ν˜„μž¬μ˜ AI 경쟁 ꡬ도가 μ΄ˆμ§€λŠ₯ 개발 경쟁으둜 μ΄μ–΄μ§ˆ 경우, ꡭ가듀은 파멸적 μœ„ν—˜μ„ ν”Όν•˜κΈ° μœ„ν•΄ 자발적으둜 κ°œλ°œμ„ μœ μ˜ˆν•˜λŠ” μ „λž΅μ„ 선택할 수 μžˆμŠ΅λ‹ˆλ‹€. - μ΄ˆμ§€λŠ₯ 개발 μœ„ν—˜μ— λŒ€ν•œ μ „ 지ꡬ적 인식 증가와 지정학적 ν™˜κ²½μ€ 합리적이고 μ•ˆμ •μ μΈ ASI 개발 유예의 κ°€λŠ₯성을 높이고 μžˆμŠ΅λ‹ˆλ‹€. - λ³Έ μ—°κ΅¬λŠ” κ²Œμž„ 이둠 λͺ¨λΈμ— κΈ°λ°˜ν•˜λ―€λ‘œ, μ‹€μ œ μ •μΉ˜μ  μ˜μ‚¬κ²°μ • κ³Όμ •μ˜ λ³΅μž‘μ„±μ„ μ™„μ „νžˆ λ°˜μ˜ν•˜μ§€ λͺ»ν•  수 있으며, ASI의 ꡬ체적인 μœ„ν—˜ μˆ˜μ€€ 및 κ΅­κ°€ κ°„ ν˜‘μƒλ ₯ 등에 λŒ€ν•œ 좔가적인 싀증적 연ꡬ가 ν•„μš”ν•©λ‹ˆλ‹€. --- [PDF 보기](https://arxiv.org/pdf/2605.01297) For the site tree, see the [root Markdown](https://slashpage.com/haebom.md).