본 논문은 기존 텍스트-이미지 생성 연구가 주로 사람 묘사의 편향성에 초점을 맞춘 것과 달리, 생성된 사물(예: 자동차)의 인구통계적 편향성이라는 더 미묘하지만 만연한 현상을 조사합니다. 연구진은 이러한 편향성을 체계적으로 측정하기 위한 새로운 프레임워크인 SODA(Stereotyped Object Diagnostic Audit)를 제시합니다. SODA는 세 가지 최첨단 모델(GPT Image-1, Imagen 4, Stable Diffusion)을 사용하여 다섯 가지 사물 범주에 걸쳐 2,700개의 이미지를 생성하고, 인구통계적 단서(예: "젊은 사람들을 위한")를 사용한 생성 결과와 중립적인 프롬프트의 결과를 비교합니다. 분석 결과, 특정 인구통계적 집단과 시각적 속성(예: 성별 또는 민족적 단서에 의해 유발되는 반복적인 색상 패턴) 사이에 강력한 연관성이 드러났습니다. 이러한 패턴은 잘 알려진 고정관념뿐만 아니라 더 미묘하고 직관적이지 않은 편향성도 반영하고 강화합니다. 또한 일부 모델은 다양성이 낮은 출력을 생성하는데, 이는 중립적인 프롬프트와 비교하여 시각적 차이를 증폭시킵니다. 제안된 감사 프레임워크는 오늘날의 생성 모델에 여전히 내재된 고정관념을 드러내는 실용적인 접근 방식을 제공하며, 더 체계적이고 책임감 있는 AI 개발을 위한 필수 단계로 제시됩니다.
