본 논문은 지식 기반 질의응답(KBQA)에서 복잡한 질문을 실행 가능한 논리 형태로 파싱하는 어려움을 해결하기 위해 대규모 언어 모델(LLM)을 활용한 대화형 KBQA 프레임워크를 제시합니다. 기존의 의미 파싱(SP) 기반 방법들은 방대한 데이터 주석이 필요하지만, 본 연구는 LLM의 맥락 내 학습 기능을 활용하여 소량의 데이터로도 우수한 성능을 달성합니다. 지식 기반과의 직접적인 상호작용을 통해 논리 형태를 생성하는 세 가지 일반적인 API를 개발하고, 각 유형의 복잡한 질문에 대한 예시를 제공하여 LLM의 추론 과정을 안내합니다. WebQuestionsSP, ComplexWebQuestions, KQA Pro, MetaQA 데이터셋에서 경쟁력 있는 결과를 도출하며, 수동 개입을 통해 LLM 출력을 반복적으로 개선할 수 있는 장점을 가지고 있습니다. 단계별 추론 과정을 주석화한 데이터셋을 통해 모델의 적응력을 보여주고, KBQA 분야에 대한 상당한 개선 가능성을 제시합니다.