대규모 말뭉치로 훈련된 대형 언어 모델(LLM)은 훈련 데이터의 내용을 그대로 기억하여 개인 정보 및 저작권 침해 위험을 야기한다. 기존의 기억력 정의는 이러한 현상을 포괄적으로 포착하는 데 한계가 있으며, 특히 정렬된 모델에서 그러하다. 본 연구에서는 다중 접두어 기억(multi-prefix memorization)이라는 새로운 프레임워크를 제안한다. 기억된 시퀀스는 깊게 인코딩되어 비(非) 기억된 내용보다 훨씬 많은 수의 서로 다른 접두어를 통해 검색될 수 있다는 점에 착안했다. 외부의 적대적 검색(adversarial search)이 대상 시퀀스를 유도하는 고유한 접두어의 목표 수를 식별할 수 있다면 해당 시퀀스를 기억된 것으로 정의한다. 이 프레임워크는 단일 경로 추출에서 기억의 강건성을 정량화하는 것으로 초점을 전환한다. 오픈 소스 및 정렬된 챗 모델에 대한 실험을 통해, 제안된 다중 접두어 정의가 기억된 데이터와 기억되지 않은 데이터를 안정적으로 구별하며, LLM의 데이터 유출을 감사하기 위한 강력하고 실용적인 도구를 제공함을 입증했다.
