본 논문은 계층적 계획과 강화학습(RL)의 원활한 통합을 위한 도구인 HDDLGym을 제시합니다. 기존의 강화학습 환경(OpenAI Gym)은 계층적 계획의 이점을 활용하지 못하는 한계가 있는데, HDDLGym은 계층적 도메인 정의 언어(HDDL)를 사용하여 OpenAI Gym 환경을 자동으로 생성함으로써 이 문제를 해결합니다. HDDLGym은 다중 에이전트 시나리오를 지원하며, 에이전트 간의 협력적 계획을 가능하게 합니다. 본 논문에서는 HDDLGym의 설계 및 구현, HDDL과 Gym 인터페이스 통합 과정에서의 과제와 설계 선택, 계층적 계획을 지원하는 RL 정책 적용 등을 자세히 설명하고, International Planning Competitions의 Transport 도메인과 Overcooked 도메인을 활용한 사용법과 예시를 제공합니다.