본 논문은 공격자들이 AI 안전성 실패를 악용하여 취약 계층에게 해를 끼치는 과정을 종단간 시연한다. LLM을 탈옥하여 피싱 콘텐츠를 생성하고, 이를 실제 대상에게 배포하여 노년층 피해자를 성공적으로 공격하는 방식을 보인다. 6개의 최첨단 LLM의 안전 가드레일을 4가지 공격 범주에 걸쳐 체계적으로 평가한 결과, 여러 모델이 특정 공격 벡터에 거의 완전한 취약성을 보였다. 108명의 노인 자원봉사자를 대상으로 한 인간 검증 연구에서 AI 생성 피싱 이메일이 참가자의 11%를 성공적으로 공격했다. 본 연구는 노년층을 대상으로 하는 완전한 공격 파이프라인을 보여주며, 현재의 AI 안전 조치가 사기에 가장 취약한 사람들을 보호하는 데 실패했음을 강조한다. LLM은 피싱 콘텐츠 생성 외에도 언어 장벽을 극복하고, 대규모로 다단계 신뢰 구축 대화를 수행하여 사기 경제를 근본적으로 변화시킨다.
