Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Pre-Act: Multi-Step Planning and Reasoning Improves Acting in LLM Agents

Created by
  • Haebom

저자

Mrinal Rawat, Ambuje Gupta, Rushil Goomer, Alessandro Di Bari, Neha Gupta, Roberto Pieraccini

개요

본 논문에서는 대형 언어 모델(LLM) 기반 에이전트 시스템의 성능 향상을 위한 새로운 접근 방식인 Pre-Act를 제시합니다. Pre-Act는 사용자 입력에 대한 다단계 실행 계획과 상세한 추론 과정을 생성하여 에이전트의 성능을 향상시킵니다. 각 단계의 실행 후 이전 단계 및 도구 출력을 통합하여 계획을 점진적으로 개선하고, 최종 응답을 얻을 때까지 이 과정을 반복합니다. 대화형 및 비대화형 에이전트 모두에 적용 가능하며, 과제 중심 에이전트의 성능을 종합적으로 평가하기 위한 2단계 평가 프레임워크(턴 단위 및 종단 간)를 제안합니다. 실험 결과, Pre-Act는 Almita 데이터셋에서 Action Recall 측면에서 ReAct보다 70% 향상된 성능을 보였으며, Llama 3.1 (70B) 모델에 Pre-Act를 적용하여 미세 조정한 결과 GPT-4를 능가하는 성능을 달성했습니다. (턴 단위 Action 정확도 69.5% 향상, 종단 간 목표 달성률 28% 향상) 특히, 실용적인 응용을 위해 중요한 작은 모델에서도 복잡한 추론 작업을 효과적으로 수행할 수 있도록 개선하는 데 초점을 맞추었습니다.

시사점, 한계점

•
시사점:
◦
Pre-Act는 LLM 기반 에이전트의 성능을 크게 향상시키는 효과적인 방법임을 보여줍니다.
◦
소규모 LLM에서도 높은 성능을 달성할 수 있음을 실험적으로 증명하여 실제 응용 가능성을 높였습니다.
◦
턴 단위 및 종단 간 평가 프레임워크는 과제 중심 에이전트의 성능 평가에 유용한 기준을 제공합니다.
◦
제안된 방법은 ReAct와 같은 기존 방법보다 우수한 성능을 보입니다.
•
한계점:
◦
Pre-Act의 효과는 주로 대규모 모델에서 더 두드러지며, 소규모 모델의 경우 성능 향상이 제한적일 수 있습니다. (비록 70B 모델에서 GPT-4를 능가하는 성능을 보였지만, 더 작은 모델에서는 추가적인 연구가 필요할 수 있습니다.)
◦
Almita 데이터셋에 대한 성능 평가 결과가 주를 이루므로, 다른 데이터셋에 대한 일반화 성능은 추가적인 연구가 필요합니다.
👍
Made with Slashpage