# SOLAR: Scalable Optimization of Large-scale Architecture for Reasoning

### 저자

Chen Li, Yinyi Luo, Anudeep Bolimera, Uzair Ahmed, Shri Kiran Srinivasan, Hrishikesh Gokhale, Marios Savvides

### 개요

본 논문은 대규모 언어 모델(LLM)의 추론 성능 향상을 위한 새로운 프레임워크인 SOLAR(Scalable Optimization of Large-scale Architecture for Reasoning)을 제시한다.  SOLAR는 Chain-of-Thought(CoT), Tree-of-Thought(ToT), Graph-of-Thought(GoT) 등 다양한 추론 토폴로지를 동적으로 최적화하여 정확도와 효율성을 높인다.  핵심 구성 요소로는 데이터셋 생성, 주석 및 난이도 분류를 자동화하는 Topological-Annotation-Generation(TAG) 시스템과 과정 학습 기반의 Topological-Scaling 기법이 있으며,  후자는  추론 스케일링과 사후 훈련을 각 과제에 적응적으로 결합한다.  또한, 최적의 추론 토폴로지와 최종 답변을 한 번에 선택하는 다중 작업 Topological Reward Model(M-TRM)을 제안하여 효율성을 더욱 향상시킨다.  MATH 및 GSM8K 데이터셋에서 SOLAR은 상당한 성능 향상을 보였다.

### 시사점, 한계점

- **시사점:**

    - LLM의 추론 성능을 향상시키는 새로운 프레임워크 SOLAR 제시.

    - 다양한 추론 토폴로지(CoT, ToT, GoT)의 동적 최적화를 통한 정확도 및 효율성 향상.

    - 자동화된 데이터셋 생성 및 주석 시스템(TAG)을 통한 효율적인 모델 훈련.

    - 과정 학습 기반의 Topological-Scaling을 통한 적응적 스케일링.

    - 다중 작업 Topological Reward Model(M-TRM)을 통한 단일 패스 내 최적 토폴로지 및 답변 선택 및 성능 향상.

    - MATH 및 GSM8K 데이터셋에서 기존 방법 대비 유의미한 성능 향상 달성.

- **한계점:**

    - 본 논문에서 제시된 방법론의 일반화 가능성에 대한 추가적인 연구 필요.

    - 다양한 종류의 문제에 대한 적용 가능성 및 성능 평가 필요.

    - M-TRM의 성능 향상에 대한 추가적인 분석 및 설명 필요.

    - TAG 시스템의 성능 및 한계에 대한 자세한 분석 필요.

[PDF 보기](https://arxiv.org/pdf/2503.04530)

For the site tree, see the [root Markdown](https://slashpage.com/haebom.md).