Recursive Concept Evolution for Compositional Reasoning in Large Language Models

Created by

Haebom

저자

Sarim Chaudhry

💡 개요

대규모 언어 모델(LLM)은 복잡한 추론 작업에서 뛰어난 성능을 보이지만, 조합적 추론이 요구되는 벤치마크에서는 성능이 급격히 저하되는 한계를 보입니다. 본 논문은 이러한 한계를 극복하기 위해 추론 과정에서 모델의 내부 표현 공간을 동적으로 수정하는 'Recursive Concept Evolution (RCE)' 프레임워크를 제안합니다. RCE는 표현 부족이 감지될 때 새로운 추상화를 생성하여 조합적 추론 능력을 향상시킵니다.

🔑 시사점 및 한계

•

LLM이 고정된 표현 공간에 의존하는 기존 방식과 달리, RCE는 추론 중에 동적으로 새로운 개념 추상화를 생성하여 조합적 추론 능력을 혁신적으로 향상시킵니다.

•

제안된 RCE 프레임워크는 Mistral-7B 모델에 통합되었을 때 ARC-AGI-2, GPQA, BBH 등 다양한 조합적 추론 벤치마크에서 상당한 성능 향상을 달성했습니다.

•

RCE의 효과는 LLM의 내부 표현 공간을 추론 중에 수정하는 방식의 잠재력을 보여주지만, 프레임워크의 연산 복잡성 및 효율성 개선, 그리고 더 넓은 범위의 모델 및 작업에 대한 일반화 가능성 연구가 필요합니다.

PDF 보기

Made with Slashpage