Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Transfer Learning of Surrogate Models: Integrating Domain Warping and Affine Transformations

Created by
  • Haebom

저자

Shuaiqun Pan, Diederick Vermetten, Manuel Lopez-Ibanez, Thomas Back, Hao Wang

개요

본 논문은 계산 비용이 많이 드는 실제 프로세스에 대한 효율적인 대안으로서 대리 모델(surrogate model)을 제시하며, 특히 효과적인 훈련을 위해 대량의 데이터셋이 필요한 한계를 극복하기 위해 사전 훈련된 대리 모델의 새로운 과제로의 전이 학습(transfer learning)에 초점을 맞추고 있습니다. 기존 연구에서는 주로 원천 및 목표 함수 간의 어파인 변환(affine transformation)을 가정하여 미분 가능 및 비미분 가능한 대리 모델의 전이 학습을 연구했지만, 본 논문은 선형 및 비선형 변화를 포함한 더 넓은 범위의 변환을 다룹니다. 구체적으로 베타 누적 분포 함수(beta cumulative distribution function)로 모델링된 알려지지 않은 입력 왜곡(input warping)과 불특정 어파인 변환의 조합을 고려하여 제한된 수의 목표 과제 데이터 포인트를 사용하여 이러한 변환을 최적화하고 전이 데이터셋에 대한 경험적 손실을 최소화하는 전이 학습 방법을 제시합니다. BBOB(Black-Box Optimization Benchmark) 테스트베드와 자동차 산업의 실제 전이 학습 과제에 제안된 방법을 검증하여, 특히 데이터가 부족한 시나리오에서 전이된 대리 모델이 원래 대리 모델과 전이 데이터셋을 사용하여 처음부터 구축된 대리 모델보다 성능이 훨씬 뛰어남을 보여줍니다.

시사점, 한계점

시사점:
제한된 데이터로도 효과적인 대리 모델 전이 학습이 가능함을 보여줌.
선형 및 비선형 변환을 고려하여 기존 연구보다 폭넓은 적용 가능성을 제시.
실제 산업 문제에 적용 가능성을 검증.
데이터 부족 시나리오에서 기존 방법 대비 우수한 성능을 입증.
한계점:
베타 누적 분포 함수를 사용한 입력 왜곡 모델링의 일반성에 대한 추가적인 검토 필요.
다양한 유형의 대리 모델과 과제에 대한 일반화 성능 평가 필요.
특정 산업 분야에 국한된 실험 결과의 일반화 가능성에 대한 추가 연구 필요.
👍