본 논문은 자궁경부암 진단에 필수적인 파프 검사 이미지 분할을 위해, 사전 훈련된 DenseNet201을 U-Net 아키텍처의 인코더로 통합하고 거미원숭이 최적화(SMO) 알고리즘으로 최적화하는 혼합 Dense-UNet201 최적화 기법을 제안한다. Dense-UNet201 모델은 특징 추출에 탁월하며, SMO는 범주형 및 이산 매개변수를 처리하도록 수정되었다. SIPaKMeD 데이터셋을 사용하여 손실, 정확도, IoU, Dice 계수 등의 주요 성능 지표를 기반으로 평가한 결과, Dense-UNet201은 U-Net, Res-UNet50, Efficient-UNetB0보다 우수한 성능을 보였다. SMO Dense-UNet201은 96.16%의 분할 정확도, 91.63%의 IoU, 95.63%의 Dice 계수를 달성하였다. 이는 이미지 전처리, 사전 훈련된 모델, 그리고 메타휴리스틱 최적화가 의료 이미지 분석 향상에 효과적임을 강조하며, 자궁경부 세포 분할 방법에 대한 새로운 통찰력을 제공한다.