본 논문은 CLIP과 같은 비전-언어 모델에서 안전하지 않은 콘텐츠 검색 문제를 해결하기 위해 기존의 unlearning 방식 대신, hyperbolic space의 계층적 특성을 활용한 'awareness' 패러다임을 제시합니다. 안전한 콘텐츠와 안전하지 않은 콘텐츠를 hyperbolic space의 서로 다른 영역에 배치하는 entailment hierarchy를 구축하고, entailment loss function을 사용하여 이들 간의 계층적이고 비대칭적인 관계를 모델링합니다. 이를 통해 HySAC(Hyperbolic Safety-Aware CLIP)이라는 모델을 제안하며, 이 모델은 안전하지 않은 콘텐츠를 인식하고 분류할 뿐만 아니라, 안전하지 않은 질의를 안전한 대안으로 리다이렉트하거나 원본 출력을 유지하는 등 유연한 콘텐츠 검색 기능을 제공합니다. 실험 결과, 제안된 방법은 안전 인식 성능을 향상시키고, 비전-언어 모델의 콘텐츠 조정을 위한 더욱 적응력 있고 해석 가능한 프레임워크를 구축함을 보여줍니다.
