Nicholas Carlini, Milad Nasr, Edoardo Debenedetti, Barry Wang, Christopher A. Choquette-Choo, Daphne Ippolito, Florian Tramer, Matthew Jagielski
개요
본 논문은 대규모 언어 모델(LLM)이 사이버 공격의 경제학을 변화시킬 것이라고 주장합니다. LLM은 공격자가 가장 흔히 사용되는 소프트웨어를 공격하고 피해자들 사이의 최소 공통 분모를 목표로 취약점을 악용하여 수익을 창출하는 대신, 사용자별 맞춤형 공격을 실행할 수 있도록 합니다. 악용 측면에서는 사람 공격자가 수백만 명의 사용자를 가진 제품에서 어렵게 식별되는 버그 하나를 수동으로 찾는 대신, LLM은 수천 명의 사용자를 가진 제품에서 수천 개의 쉽게 식별되는 버그를 찾을 수 있습니다. 수익 창출 측면에서는 항상 동일한 공격(모든 데이터를 암호화하고 복호화에 대한 대가를 요구)을 수행하는 일반적인 랜섬웨어 대신, LLM 기반 랜섬웨어 공격은 악용된 각 장치의 특정 내용에 따라 몸값 요구를 조정할 수 있습니다. 논문에서는 최첨단 LLM을 사용하여 이러한 두 가지 공격(및 여러 가지 다른 공격)이 곧 실현 가능함을 보여줍니다. 예를 들어, 어떠한 인간의 개입 없이도 LLM이 Enron 이메일 데이터 세트에서 (예: 임원이 다른 직원과의 불륜) 협박에 사용될 수 있는 매우 민감한 개인 정보를 찾는다는 것을 보여줍니다. 일부 공격은 현재 널리 확장하기에는 너무 비용이 많이 들지만, LLM의 가격이 저렴해짐에 따라 이러한 공격을 실행하려는 유인이 증가할 것입니다. 따라서 LLM은 새로운 심층 방어 접근 방식이 필요하게 만든다고 주장합니다.
시사점, 한계점
•
시사점:
◦
LLM이 사이버 공격의 경제학을 변화시키고, 사용자별 맞춤형 공격을 가능하게 할 것임을 시사합니다.
◦
LLM을 이용한 공격의 다양한 유형 (예: 맞춤형 랜섬웨어, 개인 정보 협박)이 곧 현실화될 가능성을 제시합니다.
◦
새로운 심층 방어 접근 방식의 필요성을 강조합니다.
•
한계점:
◦
현재 일부 LLM 기반 공격은 비용이 많이 들어 널리 확산되기 어렵다는 점입니다. 하지만 LLM 비용 감소에 따라 이러한 한계는 극복될 가능성이 높습니다.
◦
LLM을 이용한 공격의 구체적인 기술적 세부 사항과 방어 전략에 대한 자세한 논의가 부족합니다.
