본 논문은 도시 환경 내 실제 지리 공간 작업에서 종종 부족한 성능을 보이는 대규모 언어 모델(LLM)의 한계를 해결하기 위해, 도시 규모의 '월드 모델'을 통합한 CityGPT 프레임워크를 제안합니다. CityGPT는 도시 지식을 주입하고 공간 추론 능력을 향상시키는 CityInstruction 데이터셋을 구축하고, 이를 활용하여 다양한 LLM을 효율적으로 미세 조정하는 자가 가중치 미세 조정 방법(SWFT)을 제시합니다. 또한, LLM의 도시 공간 작업 성능을 평가하기 위한 CityEval 벤치마크를 개발하여, SWFT를 통해 CityInstruction으로 훈련된 소규모 LLM이 일부 경우 독점 LLM보다 우수한 성능을 달성함을 보여줍니다.