본 논문은 대규모 언어 모델(LLM)을 이용한 도구 계획에서 도구 실행 비용을 고려하는 Cost-Aware Tool Planning with LLMs (CATP-LLM) 프레임워크를 제안한다. 기존 연구들이 도구 실행 비용을 고려하지 않아 비용이 과다한 계획을 생성하는 문제점을 해결하기 위해, CATP-LLM은 도구 계획 언어를 도입하여 비순차적이고 다중 분기 계획을 생성하고, 비용 인식 오프라인 강화 학습 알고리즘을 통해 성능-비용 균형을 최적화한다. 또한, 비용 관련 데이터셋 부재 문제를 해결하기 위해 Cost-aware planning 평가를 위한 첫 번째 플랫폼인 OpenCATP를 제시한다. 실험 결과, CATP-LLM은 Llama2-7B를 기반으로 GPT-4보다 평균 28.2%-30.2% 향상된 계획 성능과 24.7%-45.8% 낮은 비용을 달성하였다. 코드와 데이터셋은 공개적으로 제공된다.