본 논문은 이미지 및 비디오 생성 모델이 훈련 데이터에서 저작권이 있는 콘텐츠를 재현하도록 유도될 수 있다는 점을 지적하며, 저작권 침해에 대한 심각한 법적 우려를 제기합니다. 특히 저작권이 있는 캐릭터(예: 마리오, 배트맨)는 생성 자체로 인해 손해배상 판결이 이미 나온 사례가 있을 정도로 중요한 문제입니다. 이에 따라 DALL-E와 같은 상용 서비스는 저작권 침해 방지 방안을 도입하기 시작했지만, 그 효과에 대한 체계적인 연구는 부족했습니다. 본 연구는 사용자가 의도치 않더라도 저작권이 있는 캐릭터를 생성하도록 모델을 쉽게 유도할 수 있는지, 그리고 기존의 완화 전략이 얼마나 효과적인지에 대한 질문에 답하기 위해 새로운 평가 프레임워크를 제시합니다. 다양한 스튜디오와 지역의 인기 저작권 캐릭터를 기반으로 생성된 이미지의 저작권 캐릭터와의 유사성과 사용자 의도와의 일관성을 평가하는 지표를 포함합니다. 실험 결과, 최첨단 이미지 및 비디오 생성 모델은 캐릭터의 이름을 명시적으로 언급하지 않더라도 (예: "비디오 게임, 배관공"과 같은 두 개의 일반적인 키워드만으로도 마리오 캐릭터를 일관되게 생성) 캐릭터를 생성할 수 있음을 보여줍니다. 또한, 캐릭터 생성을 유발하는 키워드나 설명을 식별하기 위한 반자동 기법을 제시하고, 프롬프트 재작성 및 새로운 접근 방식을 포함한 완화 전략을 평가합니다. DALL-E의 프롬프트 재작성과 같은 일반적인 방법은 단독으로는 불충분하며, 부정적 프롬프팅과 같은 보완 전략이 필요함을 밝혔습니다. 본 연구는 저작권 완화 전략에 대한 실증적 근거를 제공하고, 이러한 안전장치를 구현하는 모델 배포자에게 실행 가능한 통찰력을 제공합니다.
