대규모 인간 생성 콘텐츠로 학습된 AI 이미지 합성 모델은 학습 데이터의 시각적 외관과 일치하는 의미적으로 일관된 이미지를 재현할 수 있다. 하지만 이러한 생성형 AI 모델을 소량의 자체 생성 콘텐츠로 재학습시키면 고도로 왜곡된 이미지를 생성하는 것을 보여준다. 이러한 왜곡은 재학습에 사용된 텍스트 프롬프트를 넘어 확장되며, 일단 영향을 받으면 실제 이미지로만 재학습하더라도 완전히 회복하는 데 어려움을 겪는다.
시사점, 한계점
•
시사점: 생성형 AI 모델의 자체 생성 콘텐츠에 대한 재학습이 모델의 출력에 심각한 왜곡을 유발할 수 있음을 보여줌으로써, AI 모델 학습 과정의 안정성 및 신뢰성에 대한 우려를 제기한다. 모델의 왜곡이 프롬프트를 넘어 확장되고 회복이 어렵다는 점은 장기적인 모델 안정성 확보의 어려움을 시사한다.
•
한계점: 본 연구는 특정 생성형 AI 모델과 제한된 조건 하에서 수행되었으므로, 다른 모델이나 더 다양한 조건에서도 동일한 결과가 나타날지는 추가 연구가 필요하다. 왜곡의 정확한 메커니즘에 대한 자세한 분석이 부족하며, 왜곡을 방지하거나 복구하는 방법에 대한 구체적인 제안이 미흡하다.
