Council Mode: Mitigating Hallucination and Bias in LLMs via Multi-Agent Consensus

Wed, 22 Apr 2026 08:34:08 GMT

### 저자

Shuai Wu, Xue Li, Yanna Feng, Yufang Li, Zhijun Wang

### 💡 개요

본 논문은 Mixture-of-Experts (MoE) 아키텍처를 사용하는 대규모 언어 모델(LLMs)이 겪는 환각(hallucination)과 편향(bias) 문제를 해결하기 위한 새로운 다중 에이전트 합의 프레임워크인 'Council Mode'를 제안합니다. Council Mode는 복잡도에 따라 쿼리를 분류하고, 다양한 LLM을 병렬로 실행하여 응답을 생성한 후, 합의 모델을 통해 최종 응답을 종합하는 3단계 파이프라인으로 구성됩니다. 이 프레임워크는 환각 감소 및 진실성 향상, 편향 분산 감소에서 유의미한 성과를 보였습니다.

### 🔑 시사점 및 한계

- **환각 및 편향 완화**: Council Mode는 여러 LLM의 응답을 종합함으로써 개별 모델의 환각 및 편향 문제를 효과적으로 완화하여 더 신뢰할 수 있는 결과물을 생성합니다.

- **이질적인 모델 활용 극대화**: 아키텍처적으로 다양한 LLM들을 병렬로 활용하여 각 모델의 강점을 결합하고, 특정 전문가의 불균등한 활성화로 인한 편향 증폭을 줄입니다.

- **합의 메커니즘의 복잡성 및 효율성**: 본 연구에서 제시된 합의 메커니즘의 수학적 공식화와 구현은 복잡할 수 있으며, 시스템의 전반적인 응답 속도와 계산 자원 효율성에 대한 추가적인 연구 및 최적화가 필요할 수 있습니다.

---

[PDF 보기](https://arxiv.org/pdf/2604.02923)