본 논문은 대규모 언어 모델(LLM)의 반복적인 생성으로 인한 지연 및 서비스 거부(DoS) 취약성 문제를 해결하기 위한 두 가지 방법, RecurrentGenerator와 RecurrentDetector를 제안합니다. RecurrentGenerator는 블랙박스 진화 알고리즘으로 LLaMa-3 및 GPT-4와 같은 주요 LLM에서 반복적인 생성 시나리오를 효율적으로 식별하며, RecurrentDetector는 활성화 패턴을 기반으로 훈련된 경량 실시간 분류기로 95.24%의 정확도와 0.87의 F1 점수를 달성합니다. 연구진은 지연 관련 취약성을 완화하기 위한 실용적인 해결책을 제공하고, 추가 연구를 지원하기 위해 도구와 데이터를 공개적으로 공유합니다.
