Human in the Latent Loop (HILL): Interactively Guiding Model Training Through Human Intuition
Created by
Haebom
저자
Daniel Geissler, Lars Krupp, Vishal Banwari, David Habusch, Bo Zhou, Paul Lukowicz, Jakob Karolus
개요
본 논문은 HILL이라는 새로운 상호작용 프레임워크를 제시합니다. HILL은 사용자가 지식 증류에서 영감을 받은 새로운 방법을 통해 모델 훈련에 인간의 직관을 통합하여 잠재 공간 표현을 상호 작용적으로 재구성할 수 있도록 합니다. 사용자의 수정은 모델의 고유한 잠재적 표현을 재구성하도록 안내하는 교사 역할을 합니다. 이를 통해 모델은 더 효과적으로 수렴하고 비효율성을 극복할 수 있으며, 사용자에게 유익한 통찰력을 제공합니다. 사용자 연구를 통해 사용자가 최적의 모델을 훈련하는 과정에서 사용된 전략을 면밀히 관찰하여 HILL을 평가했습니다. 결과는 인간이 유도하는 잠재 공간 수정이 일반화를 유지하면서 모델 성능을 향상시키지만, 사용자의 편향을 포함하는 위험성도 나타낸다는 것을 보여줍니다. 본 연구는 인간의 직관을 모델 훈련에 통합하는 새로운 인간-AI 상호 작용 패러다임을 제시하고, 인간의 개입이 훈련 전략과 잠재적 편향에 미치는 영향을 비판적으로 검토합니다.
