Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

MAPLE: Many-Shot Adaptive Pseudo-Labeling for In-Context Learning

Created by
  • Haebom

저자

Zihan Chen, Song Wang, Zhen Tan, Jundong Li, Cong Shen

개요

본 논문은 대규모 언어 모델(LLM)의 컨텍스트 학습(ICL)에서 많은 수의 예시(many-shot ICL)를 사용하는 방법의 효율성을 높이기 위한 새로운 프레임워크인 MAPLE(Many-Shot Adaptive Pseudo-LabEling)을 제안한다. 기존 many-shot ICL은 많은 양의 라벨링된 데이터가 필요하다는 한계점을 가지는데, MAPLE은 영향력 있는 비표시 데이터를 선별하여 LLM을 이용해 의사 라벨링을 수행하고, 테스트 질의에 맞춰 적응적으로 선택된 의사 라벨링 데이터를 활용함으로써 라벨링 비용을 절감하면서 성능을 향상시킨다. 실제 데이터셋을 이용한 실험을 통해 제안된 프레임워크의 효과를 검증한다.

시사점, 한계점

•
시사점:
◦
제한된 라벨링 데이터로도 LLM의 적응성과 성능을 향상시킬 수 있는 새로운 many-shot ICL 프레임워크를 제시.
◦
의사 라벨링을 효과적으로 활용하여 라벨링 비용을 절감하는 전략 제시.
◦
실제 데이터셋을 통한 실험 결과로 효과 검증.
•
한계점:
◦
LLM을 이용한 의사 라벨링의 정확도에 따라 성능이 영향을 받을 수 있음.
◦
제안된 방법의 효율성이 데이터셋의 특성에 따라 달라질 수 있음.
◦
LLM 쿼리에 따른 추가적인 계산 비용이 발생할 수 있음.
👍
Made with Slashpage