본 논문은 AI 정렬 문제를 $M$개의 후보 목표에 대해 $N$명의 에이전트(인간 포함)가 $\varepsilon$의 근사적 합의에 $1-\delta$ 이상의 확률로 도달해야 하는 $\langle M,N,\varepsilon,\delta\rangle$-합의라는 다목표 최적화 문제로 공식화합니다. 통신 복잡도를 이용하여 정보이론적 하한선을 증명함으로써, $M$ 또는 $N$ 중 하나가 충분히 클 경우 어떤 상호작용이나 합리성도 본질적인 정렬 오버헤드를 피할 수 없음을 보여줍니다. 이러한 장벽은 특정 방법이 아닌 정렬 자체에 대한 엄격한 본질적 한계를 설정하며, "공짜 점심은 없다"는 중요한 원칙을 명확히 합니다. 즉, "모든 인간의 가치"를 인코딩하면 필연적으로 정렬 오류가 발생하므로, 미래의 방법은 합의 기반의 목표 감소 또는 우선 순위 지정을 통해 복잡성을 명시적으로 관리해야 합니다. 이러한 불가능성 결과를 보완하기 위해, 본 논문은 계산적으로 무한한 합리성과 제한된 합리성 모두에서 노이즈가 있는 메시지로 정렬을 달성하는 명시적인 알고리즘을 제공합니다. 임의의 정밀도로의 정렬이 이론적으로 보장되는 최상의 시나리오에서조차, 본 논문의 분석은 세 가지 중요한 확장성 장벽, 즉 작업 수($M$), 에이전트 수($N$) 및 작업 상태 공간 크기($D$)를 확인하여 기본적인 복잡도 이론적 제약 조건을 강조하고 안전하고 확장 가능한 인간-AI 협업을 위한 지침을 제공합니다.
