Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Improving Rule-based Reasoning in LLMs using Neurosymbolic Representations

Created by
  • Haebom

저자

Varun Dhanraj, Chris Eliasmith

개요

본 논문은 대규모 언어 모델(LLM)의 추론 능력, 특히 수학적 추론과 같이 정확한 규칙 준수를 필요로 하는 작업에서의 한계를 해결하기 위한 새로운 신경상징적 방법을 제시합니다. 이 방법은 LLM의 은닉 상태를 신경상징적 벡터로 인코딩하여 신경상징적 벡터 공간 내에서 문제 해결을 가능하게 합니다. 결과는 디코딩되어 원래의 은닉 상태와 결합되어 모델의 수치적 추론 작업 성능을 크게 향상시킵니다. 신경상징적 표현을 통해 계산을 분산함으로써 효율성, 신뢰성 및 해석 가능성을 향상시킵니다. 실험 결과는 다양한 수학적 추론 작업에서 사고연쇄 프롬프팅 및 지도 학습 미세 조정(LoRA)에 비해 평균 88.6% 낮은 교차 엔트로피 손실과 15.4배 더 많은 문제를 정확하게 해결함을 보여줍니다. 다른 작업의 성능 저하 없이 달성된 결과입니다. 코드는 https://github.com/vdhanraj/Neurosymbolic-LLM 에서 공개됩니다.

시사점, 한계점

•
시사점:
◦
LLM의 수학적 추론 능력을 크게 향상시키는 새로운 신경상징적 방법 제시.
◦
사고연쇄 프롬프팅 및 LoRA와 비교하여 압도적으로 높은 성능 향상을 보임.
◦
효율성, 신뢰성 및 해석 가능성 향상.
◦
오픈소스 코드 공개를 통한 접근성 향상.
•
한계점:
◦
제시된 방법의 일반화 성능에 대한 추가 연구 필요.
◦
다양한 유형의 추론 작업에 대한 성능 평가 추가 필요.
◦
특정 유형의 수학적 추론 문제에 국한된 성능 평가 가능성.
👍
Made with Slashpage