Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

LLM Agents for Interactive Workflow Provenance: Reference Architecture and Evaluation Methodology

Created by
  • Haebom

저자

Renan Souza, Timothy Poteet, Brian Etz, Daniel Rosendo, Amal Gueroudji, Woong Shin, Prasanna Balaprakash, Rafael Ferreira da Silva

개요

본 논문은 Edge, Cloud, HPC 환경을 아우르는 과학적 데이터 처리 워크플로우에서 생성되는 방대한 provenance 데이터 분석의 어려움을 해결하기 위해, 대규모 언어 모델(LLM) 에이전트 기반의 상호작용적 데이터 분석 방법론, 참조 아키텍처, 그리고 오픈소스 구현을 제시한다. 경량의 메타데이터 기반 설계를 통해 자연어 질문을 구조화된 provenance 쿼리로 변환하고, LLaMA, GPT, Gemini, Claude 등 다양한 LLM을 이용하여 실제 화학 워크플로우를 대상으로 평가하였다. 모듈형 설계, 프롬프트 튜닝, 그리고 Retrieval-Augmented Generation (RAG)을 통해 기록된 provenance 데이터를 넘어 정확하고 통찰력 있는 응답을 얻을 수 있음을 보였다.

시사점, 한계점

시사점:
LLM 에이전트를 활용하여 복잡한 provenance 데이터를 효과적으로 분석할 수 있는 새로운 방법론 제시
자연어 기반의 상호작용적 데이터 분석 환경 제공으로 전문가가 아닌 사용자도 쉽게 provenance 데이터를 활용 가능
모듈형 설계, 프롬프트 튜닝, RAG 기법을 통해 LLM 성능 향상 및 정확도 개선
오픈소스 구현으로 다른 연구자들의 활용 및 발전 가능
한계점:
특정 LLM과 워크플로우에 대한 평가 결과이므로 일반화 가능성에 대한 추가 연구 필요
LLM의 성능에 의존적이며, LLM의 한계(hallucination 등)가 결과에 영향을 줄 수 있음
다양한 유형의 provenance 데이터와 워크플로우에 대한 확장성 검증 필요
LLM의 처리 속도 및 자원 소모에 대한 고려 필요
👍