Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Reinforcement Learning-based Heuristics to Guide Domain-Independent Dynamic Programming

Created by
  • Haebom
Category
Empty

저자

Minori Narita, Ryo Kuroiwa, J. Christopher Beck

개요

본 논문은 조합 최적화를 위한 동적 계획법 기반 상태 공간 탐색 패러다임인 DIDP(Domain-Independent Dynamic Programming)에 강화학습(RL)을 적용하여 탐색을 위한 휴리스틱 함수를 얻는 방법을 제안합니다. 기존 DIDP는 사용자 정의 이중 경계를 사용하여 탐색을 안내하지만, 본 논문에서는 Deep Q-Networks를 사용한 값 기반 안내와 Proximal Policy Optimization을 사용한 정책 기반 안내라는 두 가지 RL 기반 안내 방식을 개발합니다. 실험 결과, RL 기반 안내는 동일한 노드 확장 수를 가진 표준 DIDP 및 문제 특정 탐욕적 휴리스틱보다 성능이 훨씬 우수하며, 노드 평가 시간이 더 오래 걸리더라도 네 개의 벤치마크 도메인 중 세 개에서 표준 DIDP보다 더 나은 실행 시간 성능을 달성합니다.

시사점, 한계점

시사점:
RL을 활용하여 DIDP의 탐색 효율을 크게 향상시킬 수 있음을 보여줌.
문제 특정 지식 없이도 효과적인 휴리스틱 함수를 학습할 수 있음을 시사.
값 기반 및 정책 기반 두 가지 RL 접근 방식 모두 DIDP 성능 향상에 효과적임을 확인.
일부 도메인에서 실행 시간 성능까지 개선 가능성을 제시.
한계점:
노드 평가 시간 증가로 인해 모든 도메인에서 실행 시간 성능 향상을 보장하지 못함.
사용된 벤치마크 도메인의 수가 제한적임.
RL 모델 학습에 필요한 데이터 및 계산 자원에 대한 고려 필요.
더욱 다양하고 복잡한 조합 최적화 문제에 대한 추가적인 실험 및 검증 필요.
👍