ConceptLens는 사전 훈련된 다중 모드 모델을 활용하여 개념 변화(Concept Shift)를 분석함으로써 AI 시스템의 신뢰성 위협(무결성, 프라이버시, 강건성, 편향)의 근본 원인을 파악하는 일반적인 프레임워크입니다. 다양한 데이터 포이즈닝 공격 탐지, 악의적인 개념 변화를 통한 은밀한 광고 생성과 같은 편향 주입 취약점 발견, 변형되지 않았지만 위험이 높은 샘플에서의 프라이버시 위험 식별 및 필터링, 불완전하거나 불균형적인 훈련 데이터로 인한 모델 약점 분석 등의 기능을 제공합니다. 또한, 모델 수준에서 모델이 과도하게 의존하는 개념 식별, 오해의 소지가 있는 개념 식별, 주요 개념의 방해가 모델에 미치는 부정적 영향 설명, 생성 콘텐츠의 사회적 편향 밝힘 등을 수행하며, 안전한 훈련 및 추론 데이터가 의도치 않게 악용될 수 있음을 보여줍니다. 궁극적으로 AI 시스템에 대한 신뢰를 높여 채택을 가속화하고 혁신을 촉진하는 데 도움을 줍니다.
