Evolving Demonstration Optimization for Chain-of-Thought Feature Transformation

Created by

Haebom

저자

Xinyuan Wang, Kunpeng Liu, Arun Vignesh Malarkkan, Yanjie Fu

💡 개요

본 논문은 다운스트림 예측 성능 향상을 위한 핵심 데이터 중심 AI 작업인 특징 변환(Feature Transformation, FT)에서 효과적인 변환 발견의 어려움을 해결하고자 합니다. 기존 방법론의 샘플 비효율성, 유효하지 않은 후보, 제한된 커버리지를 가진 중복 생성 등의 한계를 극복하기 위해, 본 연구는 강화학습으로 탐색된 고성능 특징 운송 시퀀스로부터 시작하여, 다운스트림 작업으로 검증된 변환 궤적의 경험 라이브러리를 구축하고 지속적으로 업데이트하는 프레임워크를 제안합니다. 이를 통해 LLM 기반 FT의 맥락 데이터를 최적화하고, 다양성을 고려한 선택기를 사용하여 '연쇄적 사고(chain-of-thought)'와 함께 맥락을 형성하며, 변환된 특징 생성을 더 높은 성능으로 유도합니다.

🔑 시사점 및 한계

•

동적 맥락 최적화를 통한 LLM 기반 FT 성능 향상: 고정된 시연 데이터 대신, 강화학습과 경험 라이브러리를 활용하여 LLM에 제공되는 맥락 데이터를 동적으로 최적화함으로써, 특징 변환의 다양성과 다운스트림 작업과의 연계성을 크게 개선할 수 있습니다.

•

안정적이고 효율적인 특징 변환 발견: 제안된 프레임워크는 다양한 표 형식 벤치마크에서 기존 방법론 및 LLM 기반 방법론 대비 우수한 성능과 안정성을 보여주었으며, API 기반 및 오픈소스 LLM 모두에 일반화될 수 있음을 입증했습니다.

•

복잡한 특징 공간 탐색 및 일반화 능력: 다양한 다운스트림 평가자에 대해서도 강건함을 유지하며, 복잡한 특징 변환 공간을 효과적으로 탐색하고 일반화하는 능력을 보여줍니다.

PDF 보기

Made with Slashpage