Evaluating and Improving Robustness in Large Language Models: A Survey and Future Directions
Created by
Haebom
저자
Kun Zhang, Le Wu, Kui Yu, Guangyi Lv, Dacao Zhang
개요
본 논문은 최근 급격히 발전하고 다양한 분야에 적용되고 있는 대규모 언어 모델(LLM)의 강건성(Robustness)에 대한 종합적인 조사 논문이다. LLM의 강건성이란 예상치 못한 응용 시나리오(예: 악의적인 프롬프트, 제한된 노이즈 도메인 데이터, 분포 외(OOD) 애플리케이션 등)에서 일관되고 정확하며 안정적인 콘텐츠 생성을 보장하는 것을 의미한다. 본 논문에서는 LLM 강건성에 대한 공식적인 정의를 제시하고, 이를 1) 적대적 강건성(Adversarial Robustness): 의도적으로 조작된 프롬프트(노이즈 프롬프트, 긴 컨텍스트, 데이터 공격 등) 처리, 2) 분포 외 강건성(OOD Robustness): 예상치 못한 실제 응용 시나리오(OOD 탐지, 제로샷 전이, 환각 등) 처리, 3) 강건성 평가(Evaluation of Robustness): LLM의 강건성을 검증하기 위한 새로운 평가 데이터셋, 지표 및 도구 요약 등 세 가지 관점에서 체계적으로 조직화하여 검토한다. 마지막으로, 미래의 연구 방향과 기회를 논의하고 관련 연구 목록과 검색 가능한 프로젝트(https://github.com/zhangkunzk/Awesome-LLM-Robustness-papers)를 제공한다.
시사점, 한계점
•
시사점:
◦
LLM의 강건성에 대한 포괄적인 개념과 방법론을 제시하여 연구 분야를 체계화하였다.
◦
적대적 강건성, OOD 강건성, 강건성 평가라는 세 가지 주요 관점에서 LLM 강건성 연구를 종합적으로 분석하였다.
◦
LLM 강건성 연구를 위한 새로운 평가 데이터셋, 지표 및 도구를 요약하고 소개하였다.
◦
미래 연구 방향을 제시하고 관련 연구 목록 및 프로젝트를 제공하여 연구자들에게 유용한 정보를 제공하였다.
•
한계점:
◦
본 논문은 기존 연구에 대한 조사 논문으로, 새로운 실험적 결과를 제시하지 않는다.
◦
LLM 강건성에 대한 모든 측면을 완벽하게 다루지는 못할 수 있다. 새로운 연구들이 지속적으로 등장하고 있으므로, 항상 최신 정보를 반영하기 어려울 수 있다.
