본 논문은 대규모 언어 모델(LLM)의 신뢰성 문제 해결을 위해 도메인 특화 지식을 통합한 오류 검출 방법을 제시한다. LLM이 일관성 없는 결과를 생성하는 문제를 해결하기 위해, 도메인 전문가가 간편하게 도메인 특정 조건을 정의할 수 있는 새로운 명세 언어 ESL과, 이를 이용하여 LLM 출력을 검증하는 런타임 검증 프레임워크 RvLLM을 개발하였다. 싱가포르 급행철도 시스템 법 위반 검출, 수치 비교, 부등식 풀이 세 가지 작업에 대한 실험 결과, RvLLM이 다양한 LLM의 잘못된 출력을 효율적이고 유연하게 검출함을 보여준다. 이는 LLM의 해석력 부족과 추론 과정에서의 형식적 보장 부재로 인한 오류 발생 가능성을 시사하며, RvLLM은 전문가의 도메인 지식을 활용하여 LLM 출력을 엄격하고 효율적으로 검증하는 잠재적인 해결책을 제공한다.
