본 논문은 목표 지향적인 개방형 대화를 위해 대규모 언어 모델(LLM)과 강화 학습 기반 대화 관리자를 통합하는 새로운 프레임워크를 제안합니다. 계층적 강화 학습을 활용하여 대화의 구조적 단계를 모델링하고, 메타 러닝을 통해 다양한 사용자 프로필에 대한 적응력을 향상시킴으로써, 제한된 데이터로 학습하고, 대화 단계 간 원활하게 전환하며, 이질적인 사용자 요구에 맞춰 응답을 개인화할 수 있도록 합니다. 동기 부여 면접(Motivational Interviews)에 본 프레임워크를 적용하여 행동 변화를 촉진하고, 제안된 대화 관리자가 보상 측면에서 최첨단 LLM 기준 모델보다 우수하다는 것을 보여줌으로써, 특정 목표를 가진 개방형 대화 시스템을 생성하기 위한 LLM 조건화의 잠재적 이점을 입증합니다.