PruneTIR: Inference-Time Tool Call Pruning for Effective yet Efficient Tool-Integrated Reasoning

작성자

Haebom

카테고리

Empty

저자

Luan Zhang, Dandan Song, Zhijing Wu, Zhengyu Chen, Chen Zhang, Yuhang Tian, Huipeng Ma, Chenhao Li, Changzhi Zhou, Xudong Li, Shuhao Zhang

💡 개요

본 논문은 이미 도구 사용 능력을 갖춘 LLM의 추론 시 성능을 향상시키는 PruneTIR 프레임워크를 제안합니다. PruneTIR은 추론 과정에서 발생하는 오류가 많은 도구 호출을 식별하고, 이를 가지치기(pruning)하며, 도구 사용을 일시 중단하는 방식으로 작동합니다. 이를 통해 오류로 인한 부정적 영향을 완화하고 반복적인 실패 해결 시도를 방지하여 LLM의 문제 해결 능력과 효율성을 높입니다.

🔑 시사점 및 한계

•

추론 시점 최적화: 별도의 추가 학습 없이 추론 시점에 LLM의 도구 통합 추론 능력을 효과적으로 향상시킬 수 있습니다.

•

효율성 증대: 오류가 많은 도구 호출을 가지치기하고 불필요한 시도를 줄여 작업 맥락 길이를 단축하고 효율성을 높입니다.

•

오류 해결 전략: 오류가 발생했을 때 이를 효과적으로 관리하고 LLM이 해결 불가능한 상태에 빠지는 것을 방지하는 새로운 접근 방식을 제시합니다.

PDF 보기

Made with Slashpage