Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

PromptTailor: Multi-turn Intent-Aligned Prompt Synthesis for Lightweight LLMs

Created by
  • Haebom
Category
Empty

저자

Yizhou Xu, Janet Davis

개요

PromptTailor는 사용자의 의도에 맞춰 모델의 출력 품질을 향상시키는, 개방형 텍스트 생성을 위한 제어 가능한 프롬프트 생성 시스템입니다. 사용자의 최소한의 지시 사항을 풍부하고 도메인에 특화된 프롬프트로 확장하면서 사용자가 언급한 선호도를 유지합니다. PromptTailor는 세 개의 강력한 LLM에서 추출한 12,300개의 프롬프트 개선 대화에 대해 경량 LoRA 어댑터로 미세 조정된 양자화된 Llama3-8B 모델입니다. 이 어댑터는 모든 Llama3-8B 기본 모델에 연결 가능하여 엣지 배포가 가능합니다. PromptTailor는 여러 대상 모델과 최적화 기준선에서 인간 및 LLM-judge 평가를 통해 chain-of-thought prompting보다 더 높은 선호도 비율을 얻었으며, 더 적은 모델 호출(예: 3 vs. 9)로 최첨단 프롬프트 최적화 방법을 능가하거나 일치하는 결과를 보였습니다.

시사점, 한계점

사용자 의도에 맞는 고품질 프롬프트를 생성하여 모델 출력 품질 향상
LoRA 어댑터를 사용하여 엣지 배포 가능
chain-of-thought prompting보다 우수한 성능
최첨단 프롬프트 최적화 방법과 비슷한 성능을 보이며 더 적은 모델 호출을 사용
LLM-judge 평가에 의존하는 경향이 있음
특정 LLM (Llama3-8B) 및 사전 훈련된 데이터에 의존
오픈 도메인 텍스트 생성에만 적용 가능
👍