머신러닝 모델의 발전에 따라 데이터 프라이버시 문제로 인해 중요한 인프라에 모델을 배포하는 데 어려움이 발생한다. 본 연구는 동형 암호화를 활용하여 암호화된 데이터에 대한 연산을 가능하게 하는 프레임워크를 제안한다. 특히, CNN과 같은 모델에서 비선형 활성화 함수를 동형 암호화 환경에 적합하도록 근사화하여 계산 오버헤드를 최소화하고 보안을 강화한다. CIFAR-10 데이터셋 실험 결과, 94.4%의 정확도를 달성했으며, 단일 암호화 샘플당 2.42초, 10,000개 암호화 샘플당 24,000초의 연산 시간을 보였다.