본 논문은 대화형 AI 시스템에서 사용되는 대규모 언어 모델(LLM)이 사용자 질문에 대한 답변을 생성하는 과정에서, 명확한 답변이 없는 자연어 질문에 대해 다루고 있다. 기존 연구는 주로 잘못된 전제를 가진 질문 유형에 집중했으나, 제공된 문서가 질문과 의미적으로 매우 유사하지만 필요한 답변을 포함하지 않는 범위를 벗어난 질문(out-of-scope questions)은 간과하는 경우가 많다. 본 논문에서는 주어진 문서 집합으로부터 다양한 범위를 벗어난 질문을 효율적으로 생성하기 위한 유도 환각 기반 방법을 제안한다. 그리고 여러 LLM을 기반으로 혼동 감지 및 적절한 응답 생성의 효과를 평가하고, 이러한 범위를 벗어난 질문을 감지하는 개선된 방법을 제시하여 LLM 기반 질의응답 시스템의 신뢰성을 높인다.
