본 논문은 대규모 언어 모델(LLM)의 출력물을 적대적 환경(예: 사이버 공격, 허위 정보 유포)에서 식별하는 문제를 이론적 및 실증적 관점에서 분석한다. 형식 언어 이론(극한에서의 식별)과 확장되는 LLM 생태계에 대한 데이터 기반 분석을 활용하여 LLM의 가능한 출력 집합을 형식 언어로 모델링하고, 유한한 텍스트 샘플이 생성 모델을 고유하게 지정할 수 있는지 분석한다. 결과적으로, 모델 간 능력 중복이라는 온건한 가정 하에 특정 유형의 LLM은 출력만으로는 근본적으로 식별할 수 없음을 보여준다. 이론적 식별 가능성의 네 가지 영역(1. 무한한 결정적(이산) LLM 언어 클래스는 식별 불가능, 2. 무한한 확률적 LLM 클래스 역시 식별 불가능, 3. 유한한 결정적 LLM 클래스는 식별 가능, 4. 유한한 확률적 LLM 클래스조차 식별 불가능할 수 있음)을 설명하고, 최근 몇 년 동안 특정 출력에 대한 가능한 모델 기원(가설 공간) 수의 폭발적인 증가를 정량적으로 분석한다. 보수적인 가정 하에서도(각 오픈소스 모델은 최대 하나의 새로운 데이터셋으로 미세 조정됨) 고유한 후보 모델 수는 약 0.5년마다 두 배로 증가하며, 다중 데이터셋 미세 조정 조합을 허용하면 두 배로 증가하는 시간이 0.28년까지 단축된다. 이러한 조합적 성장과 모든 모델 및 잠재적 사용자에 대한 무차별 대입 가능성 비율 계산의 엄청난 계산 비용으로 인해 실제로는 완전한 식별이 불가능하다.
