Sign In

Mitigating Hallucinations in YOLO-based Object Detection Models: A Revisit to Out-of-Distribution Detection

Created by
  • Haebom
Category
Empty

저자

Weicheng He, Changshun Wu, Chih-Hong Cheng, Xiaowei Huang, Saddek Bensalem

개요

본 논문은 자율주행 등 동적인 환경에서 안전한 의사결정을 위해 과신으로 인한 환각(hallucination)을 줄이는 YOLO 계열 객체 탐지기의 성능 향상 방안을 제시합니다. 기존 OoD(out-of-distribution) 벤치마크 평가의 부정확성을 지적하며, 기존 OoD 벤치마크 데이터셋에 ID(in-distribution) 객체가 약 13% 포함되어 있고, ID 데이터셋에 OoD 객체가 포함되어 의사결정 경계에 영향을 미친다는 점을 밝힙니다. 이러한 문제를 해결하기 위해, 객체 탐지기와 필터를 결합한 파이프라인을 제안하고, 의미적으로 유사한 OoD 데이터셋을 생성하여 YOLO 탐지기를 미세조정함으로써 객체 점수를 억제하는 방법을 제시합니다. BDD-100K 자율주행 벤치마크에서 전체 환각 오류를 88% 감소시키는 결과를 얻었습니다.

시사점, 한계점

시사점:
기존 OoD 벤치마크 평가의 한계를 밝히고, 더욱 정확한 평가 방법을 제시했습니다.
객체 탐지기와 필터를 통합적으로 개선하는 새로운 방법론을 제시했습니다.
자율주행 분야에서 환각 오류 감소에 크게 기여할 수 있는 성능 향상을 달성했습니다.
생성된 OoD 데이터셋과 코드를 공개하여 연구 재현성을 높였습니다.
한계점:
제시된 방법론이 YOLO 계열 탐지기에 특화되어 다른 탐지기에는 적용 가능성이 제한적일 수 있습니다.
생성된 OoD 데이터셋의 일반화 성능에 대한 추가적인 검증이 필요합니다.
실제 자율주행 환경에서의 성능 평가가 부족합니다.
👍