본 논문은 AI 시스템의 내부 활성화를 분석하여 생성 응답의 기만성을 탐지하는 선형 프로브 기법을 제시합니다. Llama와 Qwen 모델(1.5B~14B 파라미터)을 대상으로 실험한 결과, 특히 7B 파라미터 이상의 큰 모델에서 기만적인 응답과 비기만적인 응답을 70-80% 이상의 정확도로 구분하는 것을 확인했습니다. DeepSeek-r1로 fine-tuned된 모델에서는 90% 이상의 정확도를 달성했습니다. 레이어별 분석 결과, 초기 레이어에서는 탐지 정확도가 낮고 중간 레이어에서 정점을 찍은 후 후기 레이어에서 약간 감소하는 3단계 패턴을 보였습니다. 또한, 반복적인 영공간 투영 기법을 통해 기만성을 나타내는 다수의 선형 방향을 발견했습니다.
