Jailbreak Scaling Laws for Large Language Models: Polynomial-Exponential Crossover

작성자

Haebom

카테고리

Empty

저자

Indranil Halder, Annesya Banerjee, Cengiz Pehlevan

💡 개요

본 연구는 대규모 언어 모델(LLM)의 안전성 편향을 우회하는 적대적 공격에 대한 "탈옥 스케일링 법칙"을 제시합니다. 연구진은 프롬프트 주입 공격이 공격 성공률을 다항식 성장률에서 지수 성장률로 증폭시키는 것을 발견했으며, 이를 이론적으로 설명하기 위해 스핀 유리 시스템을 기반으로 하는 생성 모델을 제안했습니다. 이 모델은 작은 주입 프롬프트가 다항식 스케일링을, 큰 주입 프롬프트가 지수 스케일링을 유발함을 보여주며, 이는 30억에서 700억 개의 매개변수를 가진 다양한 LLM에서 일관되게 관찰되었습니다.

🔑 시사점 및 한계

•

적대적 공격, 특히 프롬프트 주입이 LLM의 안전성을 크게 저해할 수 있으며, 공격 성공률이 공격 조건에 따라 다항식에서 지수적으로 증가함을 정량적으로 보여줍니다.

•

스핀 유리 시스템이라는 물리적 모델을 사용하여 LLM의 안전성 탈옥 현상을 설명함으로써, LLM의 동작 메커니즘에 대한 새로운 통찰을 제공합니다.

•

제안된 이론적 틀은 다양한 LLM, 공격 방법, 벤치마크 데이터셋에 걸쳐 일관된 결과를 보여주어 일반화 가능성을 시사합니다.

•

실제 LLM 시스템에 직접 적용 가능한 구체적인 방어 기법보다는 공격의 근본적인 스케일링 법칙에 대한 이론적 이해에 초점을 맞추고 있으며, 향후 실제적인 방어 전략 개발을 위한 추가 연구가 필요합니다.

PDF 보기

Made with Slashpage