Sign In

Iterative Critique-Refine Framework for Enhancing LLM Personalization

Created by
  • Haebom
Category
Empty

저자

Durga Prasad Maram, Dhruvin Gandhi, Zonghai Yao, Gayathri Akkinapalli, Franck Dernoncourt, Yu Wang, Ryan A. Rossi, Nesreen K. Ahmed

개요

개인화된 텍스트 생성을 위해, PerFine은 훈련 없이 프로필 기반 피드백을 통해 반복적으로 텍스트를 개선하는 프레임워크입니다. LLM 생성기는 검색된 프로필을 기반으로 초안을 생성하고, 비평 LLM은 동일한 프로필을 기반으로 톤, 어휘, 문장 구조 및 주제에 대한 피드백을 제공합니다. 생성기는 이 피드백을 바탕으로 수정하고, knockout 전략을 통해 더 나은 초안을 유지합니다. Yelp, Goodreads, Amazon 데이터셋에서 PGraphRAG보다 일관되게 개인화 개선을 보였으며, GEval에서 +7-13% 향상, 3-5번의 개선 반복을 통해 꾸준한 개선, 비평 크기 증가에 따른 확장성을 보입니다.

시사점, 한계점

시사점:
훈련 없이 개인화된 LLM 생성 가능.
반복적인 피드백을 통해 텍스트 개선.
다양한 데이터셋에서 일관된 성능 향상.
모델에 독립적인 프레임워크.
Best-of-N, 주제 추출과 같은 추가적인 추론 시간 전략 연구.
한계점:
논문에서 구체적인 한계점 언급 없음.
👍