Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

LLM-Meta-SR: Learning to Evolve Selection Operators for Symbolic Regression

Created by
  • Haebom

저자

Hengzhe Zhang, Qi Chen, Bing Xue, Mengjie Zhang

개요

본 논문은 대규모 언어 모델(LLM)을 이용하여 기호 회귀 알고리즘을 위한 선택 연산자를 자동으로 설계하는 학습-진화 프레임워크를 제안한다. 기존의 LLM 기반 알고리즘 진화 기법의 두 가지 주요 한계점인 코드 과잉 및 의미론적 지침 부족을 해결하기 위해, 코드 과잉 제어 및 의미론 인식 선택 연산자를 도입하고 도메인 지식을 프롬프트에 포함시켰다. 실험 결과, LLM이 9개의 전문가가 설계한 기준 모델보다 우수한 성능을 보이는 선택 연산자를 고안하여 최첨단 성능을 달성함을 보여주며, 기호 회귀에 대한 전문가 수준을 뛰어넘는 알고리즘 설계가 가능함을 입증한다.

시사점, 한계점

시사점:
LLM을 이용하여 기호 회귀 알고리즘의 선택 연산자를 자동으로 설계하는 것이 가능함을 보여줌.
LLM이 전문가 수준을 뛰어넘는 알고리즘 설계 능력을 가질 수 있음을 시사.
코드 과잉 제어 및 의미론 인식 선택 연산자를 통해 LLM 기반 알고리즘 진화의 효율성을 높일 수 있음을 제시.
도메인 지식을 프롬프트에 포함시켜 LLM의 성능을 향상시킬 수 있음을 보여줌.
한계점:
제안된 프레임워크의 일반화 가능성에 대한 추가적인 연구가 필요.
다양한 종류의 문제 및 데이터셋에 대한 성능 평가가 더 필요.
LLM의 설명 가능성 및 해석 가능성에 대한 추가적인 연구가 필요.
본 연구에서 사용된 특정 LLM 및 하이퍼파라미터 설정에 대한 의존성을 고려해야 함.
👍