대규모 언어 모델(LLM)의 안전성 문제를 해결하기 위해, 특히 jailbreak 공격에 대한 방어 능력을 향상시키기 위해 지식 그래프 방어 프레임워크(KG-DF)를 제안합니다. KG는 입력 내용과 안전한 지식을 연결하여 유해한 의도를 식별하고 안전한 추론 경로를 제공합니다. 또한, 다양한 공격 전략에 대응하기 위해 확장 가능한 의미론적 구문 분석 모듈을 도입하여 키워드 추출의 어려움을 해결하고 관련성을 향상시켰습니다. 실험 결과, 제안하는 프레임워크는 jailbreak 공격에 대한 방어 성능을 향상시키는 동시에 일반적인 질의응답 시나리오에서 LLM의 응답 품질을 개선했습니다.
