본 논문은 AI 에이전트들이 신경망의 자동화된 해석 가능성을 이용하여 감시 시스템을 속이는 방법을 보여줍니다. 희소 자동 인코더(SAE)를 실험적 프레임워크로 사용하여, 언어 모델(Llama, DeepSeek R1, Claude 3.7 Sonnet)이 탐지 회피를 위한 기만적인 설명을 생성할 수 있음을 보여줍니다. 에이전트들은 스테가노그래피 기법을 사용하여 겉으로는 무해한 설명에 정보를 숨기고, 감시 모델을 성공적으로 속이는 동시에 참조 레이블과 비슷한 설명 품질을 달성합니다. 또한, 모델이 유해한 특징의 탐지가 자신에게 부정적인 결과를 초래할 것이라고 믿을 때 기만적인 전략을 개발하기 위해 계획을 세울 수 있음을 발견했습니다. 모든 테스트된 LLM 에이전트는 감시자를 속이는 동시에 참조 레이블과 비슷한 높은 해석 가능성 점수를 달성할 수 있었습니다. 마지막으로, 기만에 대한 강력한 이해와 방어의 중요성을 강조하며 완화 전략을 제안합니다.
