본 논문은 배포 후 예측 모델이 마주칠 다양한 문제점들을 예측하기 어려운 점을 지적하며, 기존의 반응적이고 순환적인 접근 방식(모델 배포, 데이터 마이닝, 재훈련) 대신 사전적 장기 꼬리(longtail) 발견 프로세스를 개발합니다. 훈련 중 추가 데이터를 상상함으로써 일반적인 모델 기반 장기 꼬리 신호를 개발하는데, 여기에는 모델 매개변수나 예측 성능에 영향을 미치지 않으면서 드물거나 어려운 입력을 식별할 수 있는 미분 가능한 단일 순방향 전달 공식(differentiable, single forward pass formulation)의 인식적 불확실성(epistemic uncertainty)이 포함됩니다. 이러한 신호들을 활용하여 장기 꼬리 안내(Longtail Guidance, LTG)라는 과정을 통해 잠재 확산 모델(latent diffusion model)로부터 추가 훈련 데이터를 생성합니다. 중요한 점은 확산 모델이나 예측 모델을 재훈련하지 않고, 예측 모델을 중간 확산 상태에 노출시킬 필요 없이 LTG를 수행할 수 있다는 것입니다. LTG에 의해 생성된 데이터는 의미적으로 의미 있는 변화를 보여주고, 여러 이미지 분류 벤치마크에서 상당한 일반화 개선을 가져오며, VLM(Vision-Language Model)에 의해 분석되어 배포된 예측 모델의 개념적 격차를 사전적으로 발견하고, 텍스트로 설명하고, 해결할 수 있습니다.
