Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

ScienceBoard: Evaluating Multimodal Autonomous Agents in Realistic Scientific Workflows

Created by
  • Haebom

저자

Qiushi Sun, Zhoumianze Liu, Chang Ma, Zichen Ding, Fangzhi Xu, Zhangyue Yin, Haiteng Zhao, Zhenyu Wu, Kanzhi Cheng, Zhaoyang Liu, Jianing Wang, Qintong Li, Xiangru Tang, Tianbao Xie, Xiachong Feng, Xiang Li, Ben Kao, Wenhai Wang, Biqing Qi, Lingpeng Kong, Zhiyong Wu

개요

본 논문은 과학적 발견을 가속화하기 위해 다양한 인터페이스를 통해 자율적으로 상호작용할 수 있는 컴퓨터 사용 에이전트를 중심으로 연구합니다. 이를 위해 과학적 워크플로우를 통합한 현실적인 다중 도메인 환경인 ScienceBoard를 소개합니다. ScienceBoard는 생화학, 천문학, 지리정보학 등 여러 분야에서 169개의 고품질 실제 작업으로 구성된 벤치마크를 포함합니다. GPT-4o, Claude 3.7, UI-TARS 등 최첨단 백본을 사용한 에이전트 평가 결과, 복잡한 워크플로우에서 과학자들을 안정적으로 지원하는 데는 아직 미흡하며, 전반적인 성공률은 15%에 불과함을 보여줍니다. 하지만 이러한 분석을 통해 에이전트의 한계를 해결하고 더 효과적인 설계 원칙을 제시하여 향후 더욱 능력 있는 과학 발견 에이전트를 구축하는 데 기여할 수 있을 것으로 기대합니다. 코드, 환경 및 벤치마크는 https://qiushisun.github.io/ScienceBoard-Home/ 에서 확인할 수 있습니다.

시사점, 한계점

시사점:
다양한 과학 분야에 걸쳐 실제 과학적 워크플로우를 자동화하는 데 도움이 되는 현실적인 벤치마크 환경인 ScienceBoard를 제공합니다.
최첨단 LLM 에이전트의 성능과 한계를 실제 과학적 작업을 통해 평가하고, 향후 연구 방향을 제시합니다.
과학적 발견을 위한 LLM 기반 에이전트 개발의 현황과 미래 방향에 대한 귀중한 통찰력을 제공합니다.
한계점:
현재의 LLM 기반 에이전트는 복잡한 과학적 워크플로우에서 15%의 낮은 성공률을 보이며, 신뢰할 수 있는 지원을 제공하는 데에는 여전히 미흡합니다.
ScienceBoard 벤치마크의 범위가 넓지만, 모든 과학 분야의 워크플로우를 완벽하게 포괄하지는 못할 수 있습니다.
에이전트의 성능 향상을 위해서는 추가적인 연구와 개발이 필요합니다.
👍