본 논문은 대규모 언어 모델(LLM)의 윤리적 정렬을 위한 견제와 균형 프레임워크를 제시합니다. 이는 3권 분립 정부 시스템에서 영감을 받아, 지식 생성을 담당하는 LLM(행정부), 윤리적 규제를 설정하는 DIKE(입법부), 상황적 해석을 담당하는 ERIS(사법부)의 세 가지 독립적이면서도 상호 작용하는 구성 요소로 이루어져 있습니다. 구조적 분리 외에도, 본 논문은 행동을 형성하기 위한 감정 조절이라는 근본적인 문제를 다룹니다. 유해한 행동을 예방하기 위해 감정적 반응을 관리하는 심리학 이론을 바탕으로, 감정을 언어적 행동에 매핑하는 자기 지도 학습 파이프라인을 개발하여 감정적 조건화를 통해 정확한 행동 조절을 가능하게 합니다. 이러한 접근 방식을 적대적 테스트와 통합하여, DIKE와 ERIS가 지식 생성, 윤리적 감독 및 상황적 해석 전반에 걸쳐 독립성을 유지하면서 윤리적 결과를 향한 언어적 행동을 유도하는 방법을 보여줍니다.
