Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Pre-Act: Multi-Step Planning and Reasoning Improves Acting in LLM Agents

Created by
  • Haebom

저자

Mrinal Rawat, Ambuje Gupta, Rushil Goomer, Alessandro Di Bari, Neha Gupta, Roberto Pieraccini

개요

본 논문은 대규모 언어 모델(LLM) 기반 에이전트 시스템의 성능 향상을 위한 새로운 접근법인 Pre-Act를 제시합니다. Pre-Act는 사용자 입력에 대한 다단계 실행 계획과 상세한 추론 과정을 생성하여 에이전트의 성능을 향상시킵니다. 기존의 ReAct 방식과 달리, Pre-Act는 각 단계의 실행 결과를 반영하여 계획을 점진적으로 개선하며, 최종 응답을 얻을 때까지 반복합니다. 본 논문에서는 회화형 및 비회화형 에이전트 모두에 적용 가능한 Pre-Act를 제안하고, 과제 중심 에이전트의 성능을 종합적으로 평가하기 위한 2단계 평가 프레임워크(턴 단위 및 엔드투엔드)를 제시합니다. 실험 결과, Pre-Act는 Almita 데이터셋에서 ReAct보다 턴 단위 Action Recall에서 70% 향상된 성능을 보였으며, Llama 3.1 (70B) 모델에 Pre-Act를 적용하여 미세 조정한 결과 GPT-4를 능가하는 성능을 달성했습니다. 특히, Almita (out-of-domain) 데이터셋에서 턴 단위 Action Accuracy는 69.5%, 엔드투엔드 목표 달성률은 28% 향상되었습니다.

시사점, 한계점

•
시사점:
◦
Pre-Act는 기존 ReAct 방식보다 향상된 성능을 보이는 새로운 LLM 기반 에이전트 접근법을 제시합니다.
◦
다단계 실행 계획 생성을 통해 복잡한 추론 작업을 효과적으로 수행할 수 있습니다.
◦
상대적으로 작은 모델에서도 우수한 성능을 달성할 수 있음을 보여줍니다 (Llama 3.1 70B 모델의 경우 GPT-4를 능가).
◦
회화형 및 비회화형 에이전트 모두에 적용 가능합니다.
◦
과제 중심 에이전트 성능 평가를 위한 2단계 평가 프레임워크를 제시합니다.
•
한계점:
◦
Pre-Act의 효과는 주로 큰 모델에서 확인되었으며, 작은 모델의 경우 복잡한 추론 작업에 어려움을 겪을 수 있습니다. (비록 70B 모델의 성능 향상을 보여주었지만, 더 작은 모델의 성능 개선에 대한 추가 연구가 필요).
◦
Almita 데이터셋에 대한 결과가 주로 제시되었으며, 다른 데이터셋에 대한 일반화 성능은 추가 검증이 필요합니다.
👍
Made with Slashpage