Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Learning to Select In-Context Demonstration Preferred by Large Language Model

Created by
  • Haebom

저자

Zheng Zhang, Shaocheng Lan, Lei Song, Jiang Bian, Yexin Li, Kan Ren

개요

본 논문은 대규모 언어 모델(LLM)의 컨텍스트 내 학습(ICL) 성능 향상을 위한 새로운 프레임워크인 GenICL을 제안합니다. 기존의 검색 기반 ICL 방법들은 대리 목적 함수에 의존하여 실제로 유용한 데모를 찾는 데 어려움을 겪고, 후보군에 질 높은 데모가 부족할 경우 성능이 저하되는 문제점을 가지고 있습니다. GenICL은 LLM의 피드백을 활용하여 데모 선택을 직접 최적화하는 생성적 선호도 학습 프레임워크로, 19개 데이터셋(11개 작업 분류)에 대한 실험 결과 기존 방법보다 우수한 데모 선택 및 ICL 성능을 보여줍니다.

시사점, 한계점

•
시사점:
◦
LLM의 피드백을 활용하여 ICL의 데모 선택을 직접 최적화하는 새로운 접근 방식 제시.
◦
기존 검색 기반 방법들의 한계점인 대리 목적 함수 의존 및 질 낮은 데모 문제 해결.
◦
다양한 작업에서 기존 방법보다 우수한 데모 선택 및 ICL 성능을 실험적으로 검증.
•
한계점:
◦
GenICL의 성능 향상이 LLM의 피드백 품질에 의존할 가능성 존재.
◦
특정 LLM에 특화된 방법일 가능성, 다른 LLM에 대한 일반화 성능 검증 필요.
◦
19개 데이터셋을 사용했지만, 더 다양하고 대규모의 데이터셋에 대한 추가 실험 필요.
👍
Made with Slashpage