Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Unifying Text Semantics and Graph Structures for Temporal Text-attributed Graphs with Large Language Models

Created by
  • Haebom
Category
Empty

저자

Siwei Zhang, Yun Xiong, Yateng Tang, Xi Chen, Zian Jia, Zehao Gu, Jiarong Xu, Jiawei Zhang

개요

본 논문은 시간적 텍스트 속성 그래프(TTAGs)를 위한 새로운 프레임워크인 Cross를 제안합니다. 기존의 시간적 그래프 신경망(TGNNs)은 텍스트 정보를 정적으로 포함하고 구조적 정보에 치우쳐 시간적 텍스트 의미의 진화와 의미와 구조 간의 상호작용을 간과하는 경향이 있습니다. Cross는 대규모 언어 모델(LLMs)을 활용하여 텍스트 공간에서 동적인 의미를 추출하고 의미와 구조를 통합하는 표현을 생성합니다. 특히, 노드의 진화하는 텍스트 이웃의 문맥에 대한 시간적 의미 이해를 제공하는 시간적 의미 추출기(Temporal Semantics Extractor)와 의미 및 구조 정보를 공동으로 고려하여 상호 강화를 유도하는 의미-구조 공동 인코더(Semantic-structural Co-encoder)를 제안합니다. 실험 결과, 네 개의 공개 데이터셋과 하나의 산업용 데이터셋에서 Cross의 효과와 강건성을 입증합니다.

시사점, 한계점

시사점:
기존 TGNNs의 한계를 극복하고 TTAGs에 대한 효과적인 모델링 프레임워크를 제시.
LLMs를 활용하여 동적 텍스트 의미를 효과적으로 추출하고, 의미와 구조 정보를 통합.
시간적 텍스트 의미의 진화와 의미-구조 상호작용을 고려하여 성능 향상.
다양한 데이터셋에서 성능 우수성과 강건성을 실험적으로 검증.
한계점:
LLM의 계산 비용이 높을 수 있음.
LLM의 성능에 의존적일 수 있음.
특정 유형의 TTAGs에 대해서만 성능이 보장될 수 있음.
사용된 LLM의 특정 아키텍처 및 매개변수에 대한 의존성.
👍