Sign In

Domain adaptation of large language models for geotechnical applications

Created by
  • Haebom
Category
Empty

저자

Lei Fan, Fangxue Liu, Cheng Chen

개요

대규모 언어 모델(LLM)의 급속한 발전에 따라 복잡한 텍스트 데이터를 사용하는 지반 공학 분야에서 LLM 활용 가능성이 높아지고 있다. 일반적인 LLM은 강력한 추론 능력을 보여주지만, 전문 용어 및 도메인 지식 부족으로 인해 지반 공학 적용에는 한계가 있다. 본 논문은 지반 공학 분야에서의 LLM 적응 및 활용에 대한 최초의 체계적인 리뷰를 제시한다. 프롬프트 엔지니어링, 검색 증강 생성, 도메인 적응 사전 훈련, 미세 조정 등 4가지 주요 적응 전략을 검토하고 비교 분석하며, 지질 해석, 지하 특성 분석, 설계 분석, 수치 모델링, 위험 평가, 지반 공학 교육 등 현재 응용 분야를 종합한다. 도메인 적응 LLM이 추론 정확도, 자동화, 해석 가능성을 크게 향상시키지만, 데이터 부족, 검증 문제, 설명 가능성 문제 등의 한계를 지닌다. 지반 공학 분야에 특화된 LLM 개발의 기초를 마련하고, 연구자와 실무자가 지반 공학의 디지털 전환을 발전시키는 데 기여한다.

시사점, 한계점

시사점:
도메인 적응 LLM은 추론 정확도, 자동화, 해석 가능성을 향상시킨다.
지반 공학 분야의 다양한 응용 분야에서 활용될 수 있다 (지질 해석, 지하 특성 분석 등).
지반 공학 분야의 디지털 전환을 가속화할 수 있다.
한계점:
데이터 부족 문제가 존재한다.
모델 검증에 어려움이 있다.
모델의 설명 가능성에 대한 우려가 있다.
👍