본 논문은 자연어 처리 분야에서 중요한 과제인 대화 시스템(DS), 특히 작업 지향형 대화 시스템(TOD)과 개방형 도메인 대화 시스템(ODD)의 역사와 언어 모델(LM)의 발전과의 특별한 관계를 심층적으로 조사합니다. 특히 사전 훈련된 언어 모델(PLM)과 대규모 언어 모델(LLM)의 등장에 따른 대화 시스템의 학습 패러다임과 연구 방향의 변화를 중점적으로 다룹니다. LM의 발전에 따라 시대순으로 분류된 다양한 단계들을 체계적으로 검토하고, 최첨단 연구 결과를 종합적으로 분석하며, 새로운 주제와 개방적인 과제에 대한 논의를 통해 LLM 기반 대화 시스템의 미래 방향에 대한 귀중한 통찰력을 제공합니다. 결론적으로, 본 논문은 언어 모델과 대화 시스템 간의 역동적인 상호 작용을 탐구하여 이 필수적인 관계의 진화 과정을 밝히고, LM 기반 대화 시스템의 미래 발전을 위한 방향을 제시합니다.