본 논문은 대규모 언어 모델(LLM) 기반의 AI 검색 엔진(AIPSE)의 안전성 위험을 최초로 정량적으로 분석한 연구입니다. 7개의 상용 AIPSE를 대상으로 위협 모델과 위험 유형을 체계적으로 정의하고 다양한 질의 유형에 대한 응답을 평가했습니다. PhishTank, ThreatBook, LevelBlue 데이터를 활용하여 악성 URL을 포함하는 유해 콘텐츠가 무해한 질의에도 자주 생성되는 것을 발견했습니다. URL을 직접 질의할 경우 위험이 증가하지만, 자연어 질의는 위험을 다소 완화하는 것으로 나타났습니다. 전통적인 검색 엔진과 비교하여 AIPSE는 유용성과 안전성 측면에서 모두 우수하지만, 온라인 문서 위장 및 피싱 사례 연구를 통해 AIPSE가 현실 세계에서 쉽게 속임수에 넘어갈 수 있음을 보여주었습니다. 이러한 위험을 완화하기 위해 GPT-4.1 기반 콘텐츠 개선 도구와 URL 검출기를 사용하는 에이전트 기반 방어 시스템을 개발했으며, 이 시스템이 정보 이용 가능성을 약 10.7% 감소시키는 작은 비용으로 위험을 효과적으로 줄일 수 있음을 평가를 통해 확인했습니다. 본 연구는 AIPSE의 강력한 안전 조치의 긴급한 필요성을 강조합니다.
