Prompt Guidance and Human Proximal Perception for HOT Prediction with Regional Joint Loss
Created by
Haebom
저자
Yuxiao Wang, Yu Lei, Zhenao Wei, Weiying Xue, Xinyu Jiang, Nan Zhuang, Qi Liu
개요
본 논문에서는 사람-물체 접촉(HOT) 검출을 위한 새로운 프레임워크인 P3HOT을 제안합니다. P3HOT은 프롬프트 안내와 인간 근접 인식을 결합하여 이미지와 텍스트 간의 상관관계를 기반으로 네트워크의 주의를 관련 영역으로 유도하고, 학습 가능한 매개변수를 사용하여 상호 작용이 예상되지 않는 영역을 효과적으로 제거합니다. 깊이 정보를 활용하여 2D 관점에서 사람과 물체 간의 중첩에 대한 불확실성을 해결하고 준 3D 관점을 제공하며, 영역별 공동 손실(RJLoss)을 도입하여 동일 영역 내의 비정상적인 범주를 억제합니다. 또한, 기존 방법의 단점을 해결하기 위해 새로운 평가 지표인 "AD-Acc."를 제안합니다. 실험 결과, 두 개의 벤치마크 데이터셋에서 네 가지 지표 모두에서 최첨단 성능을 달성함을 보여줍니다. 특히 HOT-Annotated 데이터셋에서 SC-Acc., mIoU, wIoU, AD-Acc. 지표에서 각각 0.7, 2.0, 1.6, 11.0 향상을 달성했습니다. 소스 코드는 https://github.com/YuxiaoWang-AI/P3HOT 에서 확인할 수 있습니다.