본 논문은 모바일 에지 인텔리전스(MEI)를 활용하여 에지 디바이스에서 대규모 언어 모델(LLM)을 구현하는 방법에 대한 최신 연구 동향을 조사한 논문입니다. 클라우드 기반 LLM보다 비용 효율적이고, 지연 시간이 짧으며, 개인 정보 보호에 유리한 온디바이스 LLM의 한계점을 MEI를 통해 극복하는 방안을 제시합니다. 네트워크 에지에 LLM을 배포해야 하는 시급한 필요성을 보여주는 여러 응용 프로그램을 소개하고, LLM과 MEI의 기본 원리를 설명하며, 자원 효율적인 LLM 기술을 제시합니다. MEI 기반 LLM 배포 아키텍처(MEI4LLM)의 핵심 구성 요소와 LLM 배포 지원 방식을 개괄하고, 에지 LLM 캐싱 및 전달, 에지 LLM 학습, 에지 LLM 추론 등 다양한 측면을 심층적으로 다룹니다. 마지막으로 미래 연구 방향을 제시합니다.
