본 논문은 클라우드 환경에서 대규모 언어 모델(LLM)의 안정성과 가용성을 보장하기 위한 새로운 적응형 내결함성 메커니즘을 제안한다. 자주 발생하는 자원 장애, 네트워크 문제, 과도한 연산 오버헤드와 같은 클라우드 컴퓨팅 시나리오에서 LLM의 안정적인 작동을 위해, 체크포인팅, 리던던시, 상태 전이와 같은 기존의 내결함성 메커니즘을 기반으로, 실시간 성능 지표에 기반한 동적 자원 할당 및 장애 예측 기능을 추가하였다. 데이터 기반 심층 학습 기반 이상 탐지 기술과 클라우드 오케스트레이션 미들웨어를 통합하여 시스템 장애를 예측 및 예방하고, 부하 및 시스템 상태에 따라 동적으로 적응하는 적응형 체크포인팅 및 복구 전략을 통합하여 모델 성능 저하 및 가동 중단 시간을 최소화한다. 실험 결과, 제안된 모델은 대규모 클라우드 환경에서 내결함성을 상당히 향상시키고 시스템 가동 중단 시간을 30% 감소시키는 것으로 나타났으며, 기존의 내결함성 메커니즘보다 더 나은 모델 가용성을 제공한다.
