본 논문은 대규모 언어 모델(LLM)이 생성하는 사건 확률의 비일관성 문제를 해결하기 위해 확장된 변분 오토인코더(VAE)를 이용하여 LLM 임베딩에 확률 이론의 공리적 제약 조건을 적용하는 방법을 제안합니다. VAE는 원래 임베딩을 재구성하고 의미적으로 관련된 사건의 임베딩을 예측하는 과정에서 잠재 공간에 사건 확률을 자연스럽게 생성합니다. 특히 상보적 사건(사건 A와 그 여사건 not-A)에 대한 실험을 통해 제안된 방법이 LLM이 직접 보고하는 확률보다 더 일관성 있는 확률을 생성하고 실제 확률과 잘 일치함을 보여줍니다.
