Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Evaluating the Efficacy of LLM-Based Reasoning for Multiobjective HPC Job Scheduling

Created by
  • Haebom

저자

Prachi Jadhav, Hongwei Jin, Ewa Deelman, Prasanna Balaprakash

개요

본 논문은 고성능 컴퓨팅(HPC) 작업 스케줄링 문제를 해결하기 위해 ReAct 프레임워크를 기반으로 한 대규모 언어 모델(LLM) 기반 스케줄러를 제안합니다. 기존의 휴리스틱 기반 방법(FCFS, SJF)이나 최적화 기법들은 동적인 작업 부하에 대한 적응력이 부족하고 여러 목표를 동시에 최적화하지 못하는 한계를 가지고 있습니다. 제안된 LLM 기반 스케줄러는 스크래치패드 메모리를 사용하여 스케줄링 이력을 추적하고 자연어 피드백을 통해 의사결정을 개선하며, 제약 조건 적용 모듈을 통해 실행 가능성과 안전성을 보장합니다. OpenAI의 O4-Mini와 Anthropic의 Claude 3.7을 사용하여 다양한 실제 HPC 작업 부하 시나리오에서 평가한 결과, LLM 기반 스케줄링이 여러 목표의 균형을 효과적으로 맞추고 자연어 추적을 통해 투명한 추론을 제공하는 것을 확인했습니다. 제약 조건 만족도가 뛰어나고 도메인 특화 학습 없이 다양한 작업 부하에 적응합니다. 하지만 추론 품질과 계산 오버헤드 간의 트레이드오프는 실시간 배포에 대한 과제로 남습니다. 본 논문은 추론 능력을 갖춘 LLM을 HPC 스케줄링에 적용한 최초의 포괄적인 연구로, 다목적 최적화 가능성을 보여주는 동시에 계산 효율성의 한계를 강조합니다.

시사점, 한계점

시사점:
LLM 기반 스케줄링은 다양한 HPC 작업 부하에서 여러 목표(makespan 최소화, 대기 시간 감소, 자원 사용 최적화, 공정성 보장)를 효과적으로 균형 있게 처리할 수 있음을 보여줍니다.
자연어 추적을 통해 스케줄링 과정의 투명성을 확보하고, 의사결정 과정을 이해하기 쉽게 만들 수 있습니다.
도메인 특화 학습 없이 다양한 작업 부하에 적응할 수 있는 유연성을 제공합니다.
복잡한 스케줄링 문제에 대한 LLM 활용 가능성을 제시합니다.
한계점:
LLM의 추론 품질과 계산 오버헤드 간의 트레이드오프로 인해 실시간 배포에는 어려움이 있을 수 있습니다.
LLM의 계산 비용이 상당하여 실제 HPC 환경 적용에 대한 경제적 효율성 검토가 필요합니다.
👍