Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Efficient Inference Using Large Language Models with Limited Human Data: Fine-Tuning then Rectification

Created by
  • Haebom
Category
Empty

저자

Lei Wang, Zikun Ye, Jinglong Zhao

개요

인공 지능(AI)의 발전으로 대규모 언어 모델(LLM)을 활용하여 시장 조사 및 사회 과학 분야에서 인간과 유사한 응답을 생성하는 연구가 증가하고 있습니다. LLM 성능을 향상시키기 위해 미세 조정(fine-tuning)과 보정(rectification)이라는 두 가지 주요 접근 방식이 사용됩니다. 본 논문에서는 미세 조정과 보정을 결합하고, 제한된 라벨 샘플을 두 단계에 최적으로 할당하는 프레임워크를 개발합니다. 평균 제곱 예측 오차를 최소화하는 기존 목표와 달리, 다운스트림 보정 단계에 최적인 예측 오차의 분산을 최소화하는 미세 조정 목표를 제안합니다. 또한, 경험적 스케일링 법칙을 활용하여 미세 조정과 보정 단계 간의 샘플 분할을 최적화하는 데이터 기반 방법을 개발합니다. 실험 분석을 통해 제안된 프레임워크가 미세 조정 또는 보정 단독 사용보다 향상된 추정 및 추론 성능을 보임을 확인했습니다.

시사점, 한계점

시사점:
미세 조정과 보정을 결합한 새로운 프레임워크 제시
예측 오차 분산을 최소화하는 새로운 미세 조정 목표 제안
데이터 기반 샘플 분할 방법 개발
미세 조정 또는 보정 단독 사용보다 향상된 성능 입증
한계점:
논문에 구체적인 방법론과 실험 결과에 대한 상세 정보 부족 (Abstract만으로 판단)
특정 분야(시장 조사 및 사회 과학)에 한정된 응용 분야
👍