In-Context Multi-Objective Optimization

작성자

Haebom

카테고리

Empty

저자

Xinyu Zhang, Conor Hassan, Julien Martinelli, Daolang Huang, Samuel Kaski

💡 개요

본 논문은 다양한 분야에서 발생하는 상충하는 목표를 가진 복잡한 문제를 해결하기 위한 새로운 접근 방식인 TAMO를 제안합니다. TAMO는 트랜스포머 아키텍처를 활용하여 다양한 차원의 입력과 목표에 적용 가능하며, 사전 학습을 통해 새로운 문제에 재학습 없이 즉시 적용될 수 있습니다. 이를 통해 기존 방식 대비 탐색 시간은 획기적으로 단축하면서도 문제 해결 성능은 유지하거나 향상시키는 성과를 보입니다.

🔑 시사점 및 한계

•

사전 학습된 트랜스포머 모델을 통해 별도의 문제별 모델 학습 없이 다목적 최적화 문제에 빠르게 적용할 수 있습니다.

•

문제별 서브로게이트(surrogate) 모델 피팅 및 획득 함수(acquisition function) 설계에 대한 전문 지식 없이도 최적화가 가능해집니다.

•

대규모 사전 학습 데이터셋 구축 및 다양한 실제 문제에 대한 TAMO의 일반화 성능 검증이 향후 과제로 남아있습니다.

PDF 보기

Made with Slashpage