본 논문은 논리 형식을 기반으로 하는 언어 모델(LFLMs)이 텍스트 기반 모델보다 데이터 효율성이 높다는 주장을 제기합니다. 이를 증명하기 위해 논리 형식의 그래프 표현을 기반으로 사전 훈련된 언어 모델인 GFoLDS(Graph-based Formal-Logical Distributional Semantics) 프로토타입을 소개합니다. 실험 결과, LFLMs는 모델에 내재된 기본적인 언어 지식을 활용하여 복잡한 패턴을 더 빠르게 학습할 수 있음을 보여줍니다. 동일한 데이터로 사전 훈련된 텍스트 기반 Transformer LM(BERT)에 비해 GFoLDS가 하위 작업에서 압도적으로 우수한 성능을 보였으며, 이는 LFLMs가 훨씬 적은 데이터로 학습할 수 있음을 시사합니다. 또한, 모델의 성능은 추가적인 파라미터와 사전 훈련 데이터에 따라 확장될 가능성이 높아 실제 응용 분야에서 LFLMs의 실현 가능성을 보여줍니다.
