Natural Language Processing RELIES on Linguistics
Created by
- Haebom
Category
Empty
저자
Juri Opitz, Shira Wein, Nathan Schneider
개요
본 논문은 대규모 언어 모델(LLM)이 문법이나 의미 일관성을 담당하는 특수 모듈 없이도 특정 언어로 매우 유창한 텍스트를 생성할 수 있게 된 현황을 바탕으로, NLP에서 언어학적 전문 지식의 미래에 대해 논의한다. LLM의 발전에도 불구하고 NLP가 여전히 언어학에 의존하는 측면, 또는 언어학적 사고가 새로운 방향을 제시할 수 있는 측면을 강조하며, 'RELIES'라는 약어(Resources, Evaluation, Low-resource settings, Interpretability, Explanation, and the Study of language)를 중심으로 언어학이 NLP에 기여하는 6가지 주요 측면을 제시한다. 이 목록은 완전하지 않으며, 언어학이 모든 주제에 대한 주요 참고 자료는 아니지만, 거시적 수준에서 인간 언어 시스템과 기계 시스템을 비교 연구하는 데 언어학의 지속적인 중요성을 강조한다.
시사점, 한계점
•
시사점:
◦
LLM의 발전에도 불구하고 NLP에서 언어학의 중요성을 재확인하고, 언어학적 지식이 NLP 발전에 지속적으로 기여할 수 있는 영역을 제시한다.
◦
자원 구축, 평가, 저자원 언어 처리, 모델 해석, 설명 가능성 및 언어 연구 등 NLP의 다양한 측면에서 언어학의 역할을 명확하게 규명한다.
◦
인간 언어 시스템과 기계 언어 시스템의 비교 연구를 통해 NLP의 발전 방향을 모색할 수 있는 새로운 관점을 제공한다.
•
한계점:
◦
'RELIES'라는 틀로 제시된 언어학의 기여 영역이 완전하지 않을 수 있다.
◦
각 영역에서 언어학의 기여 정도가 구체적으로 정량적으로 제시되지 않았다.
◦
LLM의 발전으로 인해 언어학적 전문 지식의 필요성이 감소할 가능성에 대한 논의가 부족하다.
