Sign In

Reinforcement Learning for Accelerator Beamline Control: a simulation-based approach

Created by
  • Haebom
Category
Empty

저자

Anwar Ibrahim, Alexey Petrenko, Maxim Kaledin, Ehab Suleiman, Fedor Ratnikov, Denis Derkach

RLABC: 강화 학습 기반 가속기 빔라인 제어

개요

본 연구에서는 입자 가속기 빔라인 설계를 강화 학습(RL) 문제로 재구성하는 Python 기반 라이브러리인 RLABC (Reinforcement Learning for Accelerator Beamline Control)를 소개합니다. Elegant 시뮬레이션 프레임워크를 활용하여, RLABC는 표준 격자 및 요소 입력 파일로부터 RL 환경을 자동 생성하여 자석의 순차적 조정을 통해 입자 손실을 최소화합니다. 빔 통계 정보를 캡처하는 포괄적인 상태 표현, 자석 매개변수를 조정하기 위한 액션, 전송 효율성에 초점을 맞춘 보상 함수를 정의합니다. Deep Deterministic Policy Gradient (DDPG) 알고리즘을 사용하여, 두 개의 빔라인에서 RLABC의 효과를 입증했으며, 전문가 수동 최적화와 유사한 94% 및 91%의 전송률을 달성했습니다.

시사점, 한계점

입자 가속기 빔라인 최적화 문제를 강화 학습 문제로 효과적으로 해결하는 프레임워크 제시
전문가의 개입 없이도 빔라인 설계를 자동화하는 가능성 제시
DDPG 알고리즘을 활용하여 빔라인 최적화에 성공적으로 적용
물리학자와 RL 연구자 모두에게 유용한 도구 제공
제한된 빔라인 환경에서의 성능 평가
다른 RL 알고리즘 및 복잡한 빔라인 환경에 대한 확장성 평가 필요
실제 가속기 시스템에 대한 적용 및 검증 필요
👍