본 논문은 인공지능(AI), 특히 AGI와 ASI 시스템이 인간의 가치에 따라 행동하도록 하는 AI 정렬 문제에 대해 다룬다. 좁은 AI에서 AGI와 ASI로의 발전과 함께 통제 및 존재적 위험에 대한 우려가 커지고 있다. 논문에서는 불가피한 AI 불일치를 받아들이는 것이 경쟁하는 에이전트의 역동적인 생태계를 조성하고 인간과 더욱 일치하는 방향으로 이들을 유도하며 위험을 완화하는 실행 가능한 방법이 될 수 있는지 조사한다. AI와 인간의 완전한 정렬은 튜링 완전 시스템에서는 수학적으로 불가능하다는 증명을 제시하며, 불일치가 불가피함을 주장한다. 또한, 인간과 에이전트가 협력과 경쟁을 통해 우호적 및 비우호적 AI를 변화시키거나 무력화하는 방법을 연구하기 위해 견해 변화 공격 테스트를 도입한다. 오픈 모델이 더 다양하고, 독점 모델에 구현된 안전장치는 에이전트의 행동 범위를 통제하는 데 성공하지만 긍정적 및 부정적 결과를 동시에 가져온다는 것을 보여준다. 폐쇄 시스템은 더욱 조종 가능하며 독점 AI 시스템에 대항하는 데에도 사용될 수 있다는 점도 제시한다. 마지막으로, 인간과 AI의 개입이 서로 다른 영향을 미친다는 것을 보여주며 다양한 전략을 제안한다.
