Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

LiveResearchBench: A Live Benchmark for User-Centric Deep Research in the Wild

Created by
  • Haebom
Category
Empty

저자

Jiayu Wang, Yifei Ming, Riya Dulepet, Qinglin Chen, Austin Xu, Zixuan Ke, Frederic Sala, Aws Albarghouthi, Caiming Xiong, Shafiq Joty

개요

본 논문은 에이전트 시스템의 중요한 발전 분야인 심층 연구를 평가하기 위한 새로운 벤치마크인 LiveResearchBench를 소개합니다. 이 벤치마크는 사용자 중심적이고, 동적이며, 명확하고, 다면적인 과제를 통해 실제 정보 요구를 반영합니다. LiveResearchBench는 광범위한 웹 검색 및 합성을 필요로 하는 100개의 전문가가 큐레이션한 과제로 구성되어 있으며, 심층 연구 보고서의 품질을 평가하기 위한 DeepEval도 함께 제공합니다. DeepEval은 내용 및 보고서 수준의 품질을 모두 포괄하는 포괄적인 평가 도구 모음이며, 17개의 최첨단 심층 연구 시스템을 평가하는 데 사용되었습니다.

시사점, 한계점

시사점:
에이전트 시스템의 심층 연구 능력을 평가하기 위한 새로운 벤치마크인 LiveResearchBench를 제시하여, 기존 벤치마크의 한계를 극복했습니다.
사용자 중심적이고, 동적이며, 명확하고, 다면적인 과제를 통해 현실적인 정보 요구를 반영합니다.
심층 연구 보고서의 품질을 평가하기 위한 포괄적인 평가 도구 모음인 DeepEval을 제공합니다.
17개의 최첨단 심층 연구 시스템을 평가하여 현재 강점, 실패 모드 및 주요 시스템 구성 요소를 분석했습니다.
한계점:
인간 노동력 투입 시간이 1,500시간 이상으로, 벤치마크 구축에 상당한 자원이 소요되었습니다.
평가 대상 시스템의 수가 제한적일 수 있습니다.
구체적인 시스템 개선 방향에 대한 정보가 부족할 수 있습니다.
👍