Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

ContextGPT: Infusing LLMs Knowledge into Neuro-Symbolic Activity Recognition Models

Created by
  • Haebom
Category
Empty

저자

Luca Arrotta, Claudio Bettini, Gabriele Civitarese, Michele Fiori

개요

본 논문은 모바일 컴퓨팅 분야에서 활발히 연구되는 상황 인식 인간 활동 인식(HAR)에 대해 다룬다. 기존의 효과적인 해결책은 지도 학습 기반의 심층 학습 모델에 의존하지만, 이러한 시스템의 실제 배포는 학습에 필요한 라벨링된 데이터 부족으로 제한된다. 본 논문은 신경 기호 AI(NeSy)를 활용하여 이 문제를 완화하고자 한다. NeSy는 인간 활동과 수행 가능한 상황에 대한 상식적 지식을 HAR 심층 학습 분류기에 주입한다. 기존의 NeSy 방법은 온톨로지와 같은 논리 기반 모델에 지식을 인코딩하는데 의존하지만, 새로운 활동과 상황을 포착하기 위한 설계, 구현, 유지보수에는 상당한 인적 노력, 기술적 지식 및 도메인 전문 지식이 필요하다. 본 논문에서는 사전 훈련된 대규모 언어 모델(LLM)이 인간 활동에 대한 상식적 지식을 효과적으로 인코딩한다는 점에 착안하여, ContextGPT라는 새로운 프롬프트 엔지니어링 기법을 제안한다. ContextGPT는 LLM에서 인간 활동과 수행되는 상황 간의 관계에 대한 상식적 지식을 검색하며, 온톨로지와 달리 제한된 인적 노력과 전문 지식만을 필요로 한다. 두 개의 공개 데이터셋에 대한 광범위한 평가를 통해 ContextGPT에서 얻은 상식적 지식을 주입한 NeSy 모델이 데이터 부족 시나리오에서 효과적이며, 논리 기반 접근 방식과 비교하여 훨씬 적은 노력으로 유사하거나 더 나은 인식률을 달성함을 보여준다.

시사점, 한계점

시사점:
LLM을 활용한 프롬프트 엔지니어링 기법(ContextGPT)을 통해 상황 인식 HAR에서 데이터 부족 문제를 효과적으로 해결할 수 있음을 제시.
기존의 논리 기반 NeSy 방법에 비해 훨씬 적은 인적 노력과 전문 지식으로 유사하거나 더 나은 성능을 달성 가능.
LLM 기반 상식 지식 주입을 통한 NeSy 모델의 효용성을 실험적으로 증명.
한계점:
ContextGPT의 성능은 LLM의 성능에 의존적이며, LLM의 한계가 ContextGPT의 성능에도 영향을 미칠 수 있음.
사용된 두 개의 공개 데이터셋에 대한 평가 결과만 제시되었으므로, 다른 데이터셋에 대한 일반화 성능은 추가적인 연구가 필요.
LLM이 제공하는 상식적 지식의 정확성 및 신뢰성에 대한 검증이 추가적으로 필요.
프롬프트 엔지니어링에 대한 전문적인 지식이 필요할 수 있음.
👍