본 논문은 대규모 언어 모델(LLM)과 데이터 관리(DATA)의 상호 작용에 대한 종합적인 검토를 제공합니다. DATA4LLM 측면에서는 LLM의 사전 훈련, 사후 훈련, 검색 증강 생성, 에이전트 워크플로우 등에 필요한 고품질, 다양성, 시의성 있는 데이터를 제공하기 위한 대규모 데이터 처리, 저장 및 제공을 다룹니다. 여기에는 데이터 처리(확보, 중복 제거, 필터링, 선택, 도메인 믹싱, 합성 증강), 저장(효율적인 데이터 및 모델 형식, 분산 및 이기종 저장 계층, KV-캐시 관리, 내결함성 체크포인팅), 제공(RAG, LLM 추론, 훈련 전략) 등이 포함됩니다. 반대로 LLM4DATA 측면에서는 데이터 관리를 위한 범용 엔진으로서의 LLM의 부상을 다루며, 자동 데이터 정제, 통합, 검색과 같은 데이터 조작, 구조화, 반구조화, 비구조화 데이터에 대한 추론을 포함하는 데이터 분석, 검색 증강 프롬프팅, 작업 특화 미세 조정, 다중 에이전트 협업과 같은 LLM 기법을 활용한 시스템 최적화(구성 조정, 쿼리 재작성, 이상 징후 진단) 등에 대한 최근 발전을 검토합니다.
