본 논문은 대규모 언어 모델(LLM)의 안전 메커니즘을 우회하는 새로운 탈옥 공격 프레임워크인 ICRT를 제안합니다. ICRT는 인간 인지의 휴리스틱과 편향에서 영감을 받아 단순화 효과를 활용하여 악의적인 프롬프트의 복잡성을 줄이고, 관련성 편향을 활용하여 프롬프트를 재구성하여 유해한 출력을 효과적으로 유도합니다. 기존의 이진 성공/실패 패러다임을 넘어 Elo, HodgeRank, Rank Centrality와 같은 순위 집계 방법을 사용하여 생성된 콘텐츠의 유해성을 종합적으로 정량화하는 순위 기반 유해성 평가 지표도 도입합니다. 실험 결과, ICRT는 주요 LLM의 안전 메커니즘을 일관되게 우회하고 고위험 콘텐츠를 생성하여 탈옥 공격 위험에 대한 통찰력을 제공하고 더 강력한 방어 전략에 기여함을 보여줍니다.
