클라우드 인프라에서 머신러닝 모델 배포 시 사용자 데이터 기밀 유지를 위한 보안 문제 해결을 위해 동형 암호화(HE) 기반의 프레임워크를 제시한다. 컨테이너화된 HE 모듈을 Kubernetes 기반 오케스트레이션과 통합하여 탄력적인 확장 및 분산 환경에서의 병렬 암호화 계산을 가능하게 한다. 암호문 패킹, 다항식 모듈러스 조정, 연산자 융합 등의 최적화 전략을 통해 지연 시간을 최소화하고 자원 소비를 줄이면서 암호학적 무결성을 유지한다. 실험 결과는 제안된 시스템이 기존 HE 파이프라인보다 최대 3.2배의 추론 가속화 및 40%의 메모리 사용량 감소를 달성함을 보여준다.