ProRefine: Inference-Time Prompt Refinement with Textual Feedback
Created by
Haebom
Category
Empty
저자
Deepak Pandita, Tharindu Cyril Weerasooriya, Ankit Parag Shah, Isabelle Diana May-Xin Ng, Christopher M. Homan, Wei Wei
개요
ProRefine은 여러 AI 에이전트가 협력하여 복잡한 작업을 수행하는 에이전트 워크플로우에서 에이전트의 역할을 안내하는 프롬프트를 동적으로 개선하는 추론 시간 최적화 방법론입니다. ProRefine은 별도의 훈련이나 정답 라벨 없이 LLM의 에이전트 루프를 사용하여 텍스트 피드백을 생성하고 적용하여 다단계 추론 작업을 위한 프롬프트를 개선합니다. 5개의 수학적 추론 데이터셋에서 평가한 결과, ProRefine은 zero-shot Chain-of-Thought 기반을 3~37%p로 크게 능가했습니다. 이를 통해 더 작고 비용 효율적인 모델이 더 큰 모델의 성능에 근접할 수 있게 하여 고성능 AI에 대한 접근성을 높입니다.
시사점, 한계점
•
시사점:
◦
ProRefine은 프롬프트 최적화를 통해 에이전트 워크플로우의 성능을 향상시킵니다.
◦
추가 학습이나 라벨 없이 추론 시간 동안 프롬프트를 동적으로 개선합니다.
◦
다양한 모델 크기에 걸쳐 성능 향상을 보여줍니다.
◦
더 작고 비용 효율적인 모델의 성능을 향상시켜 AI 시스템 구축 비용을 절감할 수 있습니다.
•
한계점:
◦
구체적인 한계점은 논문 내용에 명시되어 있지 않지만, 다른 연구와 마찬가지로 특정 데이터셋 또는 작업 유형에 제한적일 수 있습니다.
