Belief Engine: Configurable and Inspectable Stance Dynamics in Multi-Agent LLM Deliberation

작성자

Haebom

카테고리

Empty

저자

Joshua C. Yang, Maurice Flechtner, Damian Dailisan, Michiel A. Bakker

💡 개요

본 논문은 다중 에이전트 LLM(대규모 언어 모델) 상호작용에서 발생하는 입장 변화의 이유를 투명하게 설명하기 위한 'Belief Engine(BE)'이라는 감사 가능한 신념 업데이트 계층을 제안합니다. BE는 증거 기반의 입장 변화 모델링을 통해 에이전트가 어떻게 증거를 수용하고, 고정관념에 영향을 받으며, 최종 입장을 형성하는지를 추적 가능하게 만듭니다. 이를 통해 챗봇 상호작용의 투명성과 신뢰성을 높일 수 있습니다.

🔑 시사점 및 한계

•

투명하고 감사 가능한 입장 변화 추적: BE는 LLM 기반 에이전트 간의 협상, 의견 교환 등 복잡한 상호작용에서 발생하는 입장 변화의 근거를 증거 수용과 사전 고정관념의 상호작용으로 설명하여, 기존의 블랙박스적인 LLM 행동에 대한 투명성을 제공합니다.

•

조절 가능한 입장 역학: BE는 증거 수용(u)과 사전 고정관념(a)이라는 제어 가능한 매개변수를 통해 에이전트의 입장 변화 패턴을 다양하게 설계하고 시뮬레이션할 수 있는 유연성을 제공합니다.

•

증거 기반 논의 분석 및 연구: BE는 인간의 논의 데이터셋(DEBATE)에서 참가자들의 최종 입장을 증거 기반으로 가장 잘 재구성하며, 이는 BE가 실제 논의 과정의 핵심 요소를 포착할 수 있음을 시사합니다.

•

한계점: BE는 추출된 증거 스트림 외부의 요인(예: 에이전트의 내부 상태 변화, 미묘한 프롬프트 영향 등)이 입장 변화에 미치는 영향을 완전히 포착하지 못할 수 있으며, 실제 복잡한 인간의 심리적 요인들을 완전히 반영하는 데에는 한계가 있을 수 있습니다.

PDF 보기

Made with Slashpage