본 논문은 대규모 언어 모델(LLMs)의 형식적 추론 능력 향상을 위한 신경상징적 추론 방법에 초점을 맞추고 있습니다. 신경상징적 추론은 LLM을 자연어와 형식 언어 간의 번역기로 사용하고, 형식적 해결사를 통해 정확한 결과를 도출하는 방식입니다. 본 연구는 다양한 형식 언어와 LLM, 그리고 데이터셋을 사용하여 신경상징적 추론 성공에 있어 형식 언어 선택의 중요성을 보여줍니다. 구체적으로 4가지 형식 언어를 3개의 데이터셋과 6개의 LLM에 적용하여 비교 분석함으로써, 형식 언어 선택이 구문적 및 의미적 추론 능력 모두에 영향을 미친다는 것을 밝히고, 적절한 형식 언어 선택의 어려움을 "중간 언어 난제"로 제시합니다. 또한, 상황 인식 인코딩(in-context learning)의 효과를 추가적인 실험을 통해 분석하여, 평균적으로 상황 인식 인코딩이 LLM의 추론 능력 향상에 도움이 된다는 결론을 도출합니다. 반면 주석이나 마크다운 구문 사용은 큰 효과가 없는 것으로 나타났습니다.
