LIVS: A Pluralistic Alignment Dataset for Inclusive Public Spaces
Created by
- Haebom
Category
Empty
저자
Rashid Mushkani, Shravan Nayak, Hugo Berard, Allison Cohen, Shin Koseki, Hadrien Bertrand
개요
LIVS 데이터셋은 포괄적인 도시 계획에서 텍스트-이미지(T2I) 모델의 다기준 정렬을 위한 벤치마크입니다. 2년간 30개의 지역 단체와의 참여 과정을 통해 개발되었으며, 634개의 초기 개념에 대한 다양한 공간적 선호도를 6가지 핵심 기준(접근성, 안전성, 편안함, 매력, 포용성, 다양성)으로 37,710개의 짝 비교를 통해 인코딩합니다. Direct Preference Optimization (DPO)을 사용하여 Stable Diffusion XL을 미세 조정하여 지역 사회 선호도와의 정렬을 측정 가능하게 향상시켰지만, 상당수의 중립적인 평가는 교차적 요구를 모델링하는 복잡성을 보여줍니다. 또한, 주석 데이터 양이 증가함에 따라 정확도가 DPO 미세 조정 모델 쪽으로 더 이동하여 대규모 선호도 데이터가 미세 조정 효과를 향상시킨다는 것을 시사합니다. LIVS는 생성 모델에 문맥 특정적이고 이해 관계자 중심의 기준을 통합해야 할 필요성을 강조하고 다양한 사회 공간적 맥락에서 AI 정렬 방법론을 평가하기 위한 자료를 제공합니다.
시사점, 한계점
•
시사점:
◦
지역 사회의 다양한 공간적 선호도를 반영하는 LIVS 데이터셋을 제시.
◦
DPO를 활용한 T2I 모델의 미세 조정을 통해 지역 사회 선호도와의 정렬 향상을 보여줌.
◦
대규모 선호도 데이터가 미세 조정 효과를 향상시킨다는 것을 확인.
◦
생성 모델에 문맥 특정적이고 이해 관계자 중심의 기준 통합의 중요성 강조.
◦
다양한 사회 공간적 맥락에서 AI 정렬 방법론 평가를 위한 리소스 제공.
•
한계점:
◦
상당수의 중립적인 평가는 교차적 요구를 모델링하는 복잡성을 보여줌. 이는 모델의 한계를 시사.
◦
데이터셋의 규모 및 다양성에 대한 추가적인 검토가 필요할 수 있음.
