Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

LLM-Guided Dynamic-UMAP for Personalized Federated Graph Learning

Created by
  • Haebom
Category
Empty

저자

Sai Puppala, Ismail Hossain, Md Jahangir Alam, Tanzim Ahad, Sajedul Talukder

개요

본 논문은 개인화 및 프라이버시 제약 조건 하에서 그래프 머신 러닝을 돕기 위해 대규모 언어 모델(LLM)을 활용하는 방법을 제안한다. 희소 그래프를 위한 데이터 증강, 그래프 작업에 적합하도록 파운데이션 모델을 조정하기 위한 프롬프트 및 지시 튜닝, 소수의 샷 그래프 추론 신호를 제공하기 위한 문맥 내 학습을 결합한다. 이러한 신호는 개인화된 연합 학습을 위한 베이지안 변동 목표 내에서 클라이언트별 그래프 임베딩의 동적 UMAP 매니폴드를 매개변수화한다. 이 방법은 저자원 환경에서 노드 분류 및 링크 예측을 지원하며, 교차 모달 정규화기를 통해 언어 모델 잠재 표현을 그래프 구조에 정렬한다. 본 논문은 변동 집계 절차의 수렴 논거, 모멘트 회계사를 기반으로 하는 차등 프라이버시 위협 모델을 설명하고, 지식 그래프 완성, 추천 스타일 링크 예측, 인용 및 제품 그래프에 대한 응용 사례를 제시한다. 또한 LLM 지원 그래프 머신 러닝 벤치마킹을 위한 평가 고려 사항을 논의한다.

시사점, 한계점

•
시사점:
◦
개인화 및 프라이버시를 고려한 그래프 머신 러닝 접근 방식 제시
◦
LLM을 활용하여 저자원 환경에서 그래프 작업 성능 향상
◦
다양한 그래프 작업 (지식 그래프 완성, 추천 스타일 링크 예측 등)에 적용 가능성 제시
◦
수렴 논거 및 차등 프라이버시 보장 방법론 제시
◦
LLM 기반 그래프 머신 러닝 평가에 대한 논의
•
한계점:
◦
구체적인 실험 결과 및 성능 비교 정보 부족
◦
수렴 논거 및 차등 프라이버시 모델의 엄밀한 증명 부재
◦
실제 응용 시 LLM의 계산 비용 및 복잡성 고려 필요
◦
벤치마킹 방법론에 대한 추가적인 연구 필요
👍
Made with Slashpage