LLM Whisperer: An Inconspicuous Attack to Bias LLM Responses
Created by
Haebom
Category
Empty
저자
Weiran Lin, Anna Gerchanovsky, Omer Akgul, Lujo Bauer, Matt Fredrikson, Zifan Wang
개요
본 논문은 대규모 언어 모델(LLM) 프롬프트 최적화 또는 제안 서비스의 위험성을 다룹니다. 프롬프트 제공자가 미묘한 동의어 변경을 통해 LLM 응답에 특정 개념(브랜드, 정당, 국가 등)을 언급할 확률을 최대 78%까지 높일 수 있음을 보여줍니다. 사용자 연구를 통해 이러한 미묘한 변경이 사용자에게는 감지되지 않으면서 LLM의 응답에 특정 개념을 더 자주 포함시키고, 사용자가 해당 개념을 더 쉽게 인지하게 만든다는 것을 확인했습니다. 이러한 공격의 실용성은 사용자 자율성을 훼손할 가능성이 있습니다.
시사점, 한계점
•
시사점: LLM 프롬프트 최적화 서비스의 위험성을 보여주는 실증적 연구 결과 제시. 미묘한 프롬프트 조작을 통한 LLM 조작 가능성을 증명. 사용자 자율성 보호를 위한 경고 메커니즘 필요성 제기.
•
한계점: 특정 LLM 및 프롬프트에 국한된 결과일 가능성. 다양한 LLM과 프롬프트 유형에 대한 추가 연구 필요. 장기적인 사용자 영향에 대한 심층적인 연구 필요. 제안된 해결책(untrusted parties로부터의 프롬프트 사용에 대한 경고)의 실효성에 대한 추가 연구 필요.
