본 논문은 IT 환경에서 발생하는 방대한 로그 데이터를 효율적으로 분석하고 문제 진단을 자동화하기 위해 대규모 언어 모델(LLM)을 활용하는 로그 분석 도구를 제안한다. 특히, LLM을 CPU에서 효율적으로 실행하여 대량의 로그 데이터를 처리하는 새로운 접근 방식을 제시한다. 2024년 3월부터 70개 소프트웨어 제품에 배포되어 2,000개 이상의 티켓 문제 진단에 활용되었으며, 기존 방식 대비 300시간 이상의 인력 절감과 월 15,444달러의 인건비 절감 효과를 달성했다.
시사점, 한계점
•
시사점:
◦
LLM을 활용한 자동화된 로그 분석 도구 개발 및 배포 성공 사례 제시.
◦
CPU에서 LLM을 효율적으로 실행하는 기술 개발로 대량 로그 데이터 처리 가능성 입증.
◦
실제 운영 환경에서의 시간 및 비용 절감 효과 확인.
•
한계점:
◦
구체적인 LLM 아키텍처 및 CPU 최적화 기법에 대한 상세 정보 부족.
◦
도구의 정확성 및 성능에 대한 정량적 평가 지표(예: precision, recall) 미제시.
