Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Towards Graph Foundation Models: Learning Generalities Across Graphs via Task-Trees

Created by
  • Haebom

저자

Zehong Wang, Zheyuan Zhang, Tianyi Ma, Nitesh V Chawla, Chuxu Zhang, Yanfang Ye

개요

본 논문은 이종 그래프 작업 전반에서 일반화 가능한 패턴을 발견하는 문제를 해결하기 위해, 작업 트리를 이용한 그래프 내 크로스-태스크 일반화에 대한 새로운 접근 방식을 제안합니다. 작업 트리는 노드, 에지, 그래프 수준 작업을 정렬하는 통합된 학습 인스턴스 역할을 합니다. 이론적으로 작업 트리의 안정성, 전이성 및 일반화 특성을 분석하여 재구성 목표를 가진 다양한 작업 트리에서 GNN(그래프 신경망)을 사전 훈련하면 전이 가능한 지식이 유도됨을 보여줍니다. 이를 통해 최소한의 미세 조정으로 다운스트림 작업에 효율적으로 적응할 수 있습니다. 제안된 프레임워크를 검증하기 위해, 5개 도메인에 걸쳐 30개 이상의 그래프에서 미세 조정, 문맥 내 학습 및 제로샷 일반화를 통해 강력한 성능을 보여주는 그래프 기반 모델인 GIT(Graph Generality Identifier on Task-Trees)를 소개합니다. 코드와 데이터는 https://github.com/Zehong-Wang/GIT 에서 이용 가능합니다.

시사점, 한계점

•
시사점:
◦
이종 그래프 작업에서의 크로스-태스크 일반화 문제에 대한 효과적인 해결책 제시.
◦
작업 트리를 이용한 통합된 학습 프레임워크를 통해 GNN의 전이 학습 성능 향상.
◦
미세 조정, 문맥 내 학습, 제로샷 일반화 모두에서 우수한 성능을 보이는 GIT 모델 제시.
◦
다양한 도메인과 그래프에서의 실험적 검증을 통해 접근 방식의 유효성 확인.
•
한계점:
◦
GIT 모델의 성능이 특정 그래프 구조나 작업에 편향될 가능성.
◦
작업 트리 구성의 복잡성 및 최적화 문제.
◦
대규모 그래프 데이터셋에 대한 확장성 평가 부족.
◦
다양한 그래프 구조와 작업 유형에 대한 일반화 성능의 추가적인 검증 필요.
👍
Made with Slashpage