본 논문은 목표 지향적인 개방형 대화를 위해 대규모 언어 모델(LLM)과 강화 학습 기반 대화 관리자를 통합하는 새로운 프레임워크를 제안합니다. 계층적 강화 학습을 통해 대화의 구조적 단계를 모델링하고, 메타 러닝을 통해 다양한 사용자 프로필에 대한 적응력을 향상시킴으로써, 제한된 데이터로부터 학습하고, 대화 단계 간에 원활하게 전환하며, 이질적인 사용자의 요구에 맞춰 응답을 개인화할 수 있습니다. 본 연구는 동기 면접(Motivational Interviews)에 프레임워크를 적용하여 행동 변화를 촉진하고, 제안된 대화 관리자가 최첨단 LLM 기준 모델보다 보상 측면에서 우수함을 보여줌으로써, 특정 목표를 가진 개방형 대화 시스템을 생성하기 위한 LLM 조건화의 잠재적 이점을 입증합니다.