AEGIS : Automated Co-Evolutionary Framework for Guarding Prompt Injections Schema
Created by
Haebom
저자
Ting-Chun Liu, Ching-Yu Hsu, Kuan-Yi Lee, Chi-An Fu, Hung-yi Lee
개요
프롬프트 주입 공격은 실제 응용 프로그램에서 대규모 언어 모델(LLM)의 안전한 배포에 심각한 문제를 제기한다. 이 문제를 해결하기 위해, 저자들은 AEGIS를 제안한다. AEGIS는 프롬프트 주입 공격으로부터 방어하기 위한 자동화된 공진화 프레임워크이다. 공격 및 방어 프롬프트는 텍스트 기울기 최적화(TGO) 모듈을 통해 LLM 기반 평가 루프의 피드백을 활용하여 반복적으로 상호 최적화된다. 실제 과제 채점 데이터 세트에서 AEGIS는 기존 기준선을 지속적으로 능가하여 공격 성공률과 탐지 모두에서 뛰어난 견고성을 달성한다.
시사점, 한계점
•
시사점:
◦
자동화된 공진화 프레임워크 AEGIS는 프롬프트 주입 공격에 대한 강력한 방어 전략을 제공한다.
◦
공격 및 방어 프롬프트의 자동 진화를 통해 기존 방법보다 우수한 성능을 달성한다.
◦
공격 성공률(ASR) 개선 (1.0 달성) 및 탐지 성능 향상 (TPR 0.84, TNR 0.89)
