본 논문은 대규모 언어 모델(LLM)의 안전성 문제를 해결하기 위해 입력 및 출력 수준에서 LLM을 보호하는 새로운 안전 응답 프레임워크를 제안합니다. 입력 수준에서는 감독 학습 기반 안전 분류 모델을 사용하여 위험을 식별하고 차별화된 처리를 수행하며, 4단계 분류 체계(Safe, Unsafe, Conditionally Safe, Focused Attention)를 통해 위험 커버리지와 비즈니스 시나리오 적응성을 향상시켜 99.3%의 위험 회수율을 달성합니다. 출력 수준에서는 Retrieval-Augmented Generation(RAG)과 특별히 미세 조정된 해석 모델을 통합하여 모든 응답이 신뢰할 수 있는 실시간 지식 기반에 기반하도록 보장합니다. 실험 결과는 제안된 안전 제어 모델이 기본 모델인 TinyR1-Safety-8B보다 공공 안전 평가 벤치마크에서 훨씬 높은 안전 점수를 달성했으며, 자체 고위험 테스트 세트에서 100% 안전 점수를 기록하여 복잡한 위험 시나리오에서 뛰어난 보호 능력을 입증했습니다.
