Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

PromptWise: Online Learning for Cost-Aware Prompt Assignment in Generative Models

Created by
  • Haebom

저자

Xiaoyan Hu, Lauren Pick, Ho-fung Leung, Farzan Farnia

개요

본 논문은 생성형 AI 모델 선택 시 성능뿐 아니라 비용 또한 고려해야 함을 강조하며, 비용 효율적인 모델 선택을 위한 온라인 학습 프레임워크인 PromptWise를 제안합니다. PromptWise는 저렴한 모델부터 순차적으로 질의하여, 만족스러운 결과를 얻지 못할 경우 더 비싼 모델로 넘어가는 전략을 사용합니다. 퍼즐 및 코드 생성/번역과 같은 다양한 작업에 대한 실험 결과, PromptWise는 비용을 고려하지 않는 기존 방법보다 비용 효율성이 높고 평균 성능도 우수함을 보여줍니다.

시사점, 한계점

시사점:
생성형 AI 모델 선택 시 비용 최적화의 중요성을 강조.
PromptWise는 비용 효율적인 생성형 AI 모델 사용 전략을 제시.
다양한 작업에서 기존 방법 대비 비용 및 성능 개선 효과를 입증.
한계점:
PromptWise의 성능은 모델의 가격 및 성능 분포에 의존적일 수 있음.
실험은 특정 유형의 작업에 국한되어 일반화 가능성에 대한 추가 연구 필요.
모델의 성능 평가 기준 및 비용 산정 방식에 따라 결과가 달라질 수 있음.
👍