Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Do you see what I see? An Ambiguous Optical Illusion Dataset exposing limitations of Explainable AI

Created by
  • Haebom

저자

Carina Newen, Luca Hinkamp, Maria Ntonti, Emmanuel Muller

개요

본 논문은 자율주행이나 의료 진단과 같은 안전 중요 분야에서 기계 학습 알고리즘의 중요성을 강조하며, 특히 모호한 데이터의 역할에 주목합니다. 인간과 기계 지각의 한계를 이해하는 데 도움이 되는 착시 현상을 연구 대상으로 삼아, 동물 쌍이 혼합된 새로운 착시 데이터셋을 제시합니다. 데이터셋은 시선 방향과 눈의 단서와 같은 일반화 가능한 시각적 개념이 모델 정확도에 미치는 영향을 보여주며, 인간과 기계 시각 간의 편향과 정렬 연구의 기반을 제공합니다. 편향 완화를 위해 다양한 개념을 사용하여 체계적으로 착시를 생성하였으며, Kaggle과 Github를 통해 데이터셋과 소스 코드를 공개합니다.

시사점, 한계점

시사점:
착시 현상을 이용한 새로운 데이터셋을 제공하여 기계 학습 모델의 지각 모호성에 대한 연구를 가능하게 함.
시선 방향, 눈의 단서 등의 시각적 개념이 모델 성능에 미치는 영향을 규명.
인간과 기계 시각 간의 편향 및 정렬 연구를 위한 기반 마련.
다양한 개념을 사용한 체계적인 착시 생성을 통해 데이터셋의 일반적인 활용 가능성 확대.
한계점:
데이터셋의 규모 및 다양성에 대한 추가적인 검토 필요.
제시된 착시 현상의 일반화 가능성에 대한 추가적인 실험 및 분석 필요.
인간의 지각과 기계 학습 모델의 지각 차이에 대한 심층적인 분석 부족.
👍