Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

InterFeedback: Unveiling Interactive Intelligence of Large Multimodal Models via Human Feedback

Created by
  • Haebom

저자

Henry Hengyuan Zhao, Wenqi Pei, Yifei Tao, Haiyang Mei, Mike Zheng Shou

개요

본 논문은 대규모 다중 모달 모델(LMM)의 인간 사용자와의 상호 작용 지능을 평가하기 위한 새로운 상호 피드백 프레임워크인 InterFeedback을 제시합니다. InterFeedback는 어떤 LMM과 데이터셋에도 적용 가능하며, MMMU-Pro와 MathVerse 데이터셋을 사용하여 10개의 오픈소스 LMM을 평가하는 InterFeedback-Bench와, OpenAI-o1 및 Claude-3.5-Sonnet과 같은 선도적 모델들을 수동으로 평가하기 위한 120개의 사례로 구성된 InterFeedback-Human 데이터셋을 함께 소개합니다. 평가 결과, 최첨단 LMM인 OpenAI-o1조차도 인간의 피드백을 기반으로 응답을 개선하는 데 어려움을 겪고 평균 50% 미만의 점수를 얻었다는 것을 보여줍니다. 이는 LMM이 피드백을 해석하고 활용하는 능력을 향상시키는 방법의 필요성을 시사합니다.

시사점, 한계점

시사점:
LMM의 상호 작용 지능 평가를 위한 새로운 프레임워크(InterFeedback) 제시
최첨단 LMM의 상호 작용 지능 수준이 아직 미흡함을 밝힘
LMM의 피드백 해석 및 활용 능력 향상 연구의 필요성 제기
InterFeedback-Bench 및 InterFeedback-Human 데이터셋 제공을 통한 LMM 연구의 발전에 기여
한계점:
InterFeedback-Human 데이터셋의 규모가 상대적으로 작음 (120 cases)
평가 대상 LMM의 종류 및 수 제한 (10개 오픈소스 LMM)
다양한 유형의 상호 작용 및 피드백 유형에 대한 포괄적인 평가가 부족할 수 있음
👍