Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Beyond Single-Granularity Prompts: A Multi-Scale Chain-of-Thought Prompt Learning for Graph

Created by
  • Haebom

저자

Ziyu Zheng, Yaming Yang, Ziyu Guan, Wei Zhao, Xinyan Huang, Weigang Lu

개요

본 논문은 사전 훈련된 모델과 다운스트림 목표 사이의 격차를 좁히기 위해 설계된 "사전 훈련, 프롬프트" 패러다임을 그래프 도메인에 적용하고, 특히 그래프 데이터의 본질적인 다중 스케일 구조적 정보를 간과하는 기존의 단일 입자성 프롬프트 생성 방식을 개선하고자 한다. 이를 위해, 다중 스케일 정보를 그래프 프롬프트에 통합하는 Multi-Scale Graph Chain-of-Thought (MSGCOT) 프롬프트 프레임워크를 제안한다. MSGCOT는 경량 저랭크 코어닝 네트워크를 사용하여 다중 스케일 구조적 특징을 계층적 기반 벡터로 캡처하고, 인간의 인지 방식을 모방하여 각 추론 단계에서 다중 스케일 정보를 동적으로 통합하여 점진적인 coarse-to-fine 프롬프트 체인을 형성한다. 8개의 벤치마크 데이터셋에 대한 실험 결과, MSGCOT가 최첨단 단일 입자성 그래프 프롬프트 튜닝 방법보다 우수한 성능을 보였으며, 특히 few-shot 상황에서 뛰어난 성능을 입증했다.

시사점, 한계점

시사점:
그래프 프롬프트 튜닝에 다중 스케일 정보 통합의 중요성을 제시하고, 새로운 프레임워크 MSGCOT를 제안하여 성능 향상을 이끌어냄.
few-shot 환경에서 특히 효과적인 성능을 보임으로써, 데이터 희소성 문제 해결에 기여.
인간의 인지 과정을 모방한 coarse-to-fine 프롬프트 체인을 통해 추론 과정의 효율성을 높임.
한계점:
MSGCOT의 일반화 가능성 및 다양한 그래프 데이터 유형에 대한 적용 가능성 추가 연구 필요.
계산 복잡성 및 MSGCOT의 최적화에 대한 추가적인 연구 필요.
MSGCOT가 다른 프롬프트 튜닝 방법과의 비교 분석을 통해 성능 향상의 원인을 더 자세히 분석할 필요가 있음.
👍