본 논문은 운영 연구 및 관리 과학 분야의 순차적 의사결정 과제를 해결하기 위해 Generative Pre-trained Transformer (GPT) 모델인 OMGPT를 처음부터 구축합니다. 동적 가격 책정, 재고 관리, 자원 배분, 대기열 제어 등 여러 운영 의사결정 과제를 특수한 경우로 포함하는 일반적인 시퀀스 모델링 프레임워크를 제안합니다. 이 프레임워크에서 이러한 모든 과제는 이력 정보를 바탕으로 최적의 미래 행동을 예측하는 순차적 예측 문제로 볼 수 있습니다. 그런 다음 순차적 모델링을 위한 자연스럽고 강력한 아키텍처로서 Transformer 기반 신경망 모델(OMGPT)을 훈련시킵니다. 이는 (i) OMGPT 모델이 방대한 양의 사전 훈련 데이터를 활용할 수 있고, (ii) 이러한 문제를 해결할 때 OMGPT는 어떤 분석적 모델 구조도 가정하지 않고 이력에서 미래 행동으로의 직접적이고 풍부한 매핑을 가능하게 한다는 점에서 기존 OR/OM 과제에 대한 기존 방법과 비교하여 패러다임 전환을 의미합니다. 저자들은 OMGPT의 작동 메커니즘을 이론적으로 이해하기 위해 베이지안 관점을 확립하는데, 이는 성능을 사전 훈련 작업 다양성 및 테스트 작업과 사전 훈련 작업 간의 분기와 관련짓습니다. 수치적으로, 제안된 모델은 모든 위의 과제에서 놀라운 성능을 보임을 관찰합니다.
