본 논문은 복잡한 산업 이벤트 로그 데이터로부터 의미 있고 성능이 뛰어난 특징을 자율적으로 추출하는 다중 에이전트 진화 시스템인 FELA (Feature Engineering LLM Agents)를 제안합니다. FELA는 대규모 언어 모델(LLM)의 추론 및 코딩 능력과 통찰력 기반 자기 진화 패러다임을 통합하여, Idea Agent, Code Agent, Critic Agent와 같은 전문 에이전트를 활용하여 새로운 특징 아이디어를 공동으로 생성, 검증 및 구현합니다. 평가 에이전트는 피드백을 요약하고 계층적 지식 기반 및 이중 메모리 시스템을 업데이트하여 지속적인 개선을 가능하게 합니다. 또한, FELA는 강화 학습과 유전 알고리즘 원리를 결합한 에이전트 진화 알고리즘을 도입하여 아이디어 공간에서 탐색과 활용의 균형을 유지합니다. 실제 산업 데이터 세트에 대한 광범위한 실험을 통해 FELA는 설명 가능하고 도메인 관련 특징을 생성하여 모델 성능을 크게 향상시키고 수동 노력을 줄일 수 있음을 입증합니다.
