SLAM: Structural Linguistic Activation Marking for Language Models

작성자

Haebom

카테고리

Empty

저자

Fabrice Harel-Canada, Amit Sahai

💡 개요

본 논문은 언어 모델(LLM)의 텍스트 품질 저하 없이 워터마크를 탐지할 수 있는 새로운 방법인 SLAM(Structural Linguistic Activation Marking)을 제안합니다. SLAM은 토큰 빈도 대신 언어 구조(음성, 시제, 절 순서 등)를 나타내는 잔여 스트림 방향을 식별하고, 생성 시 이를 인과적으로 조종하여 텍스트 품질을 유지하면서 워터마크를 삽입합니다. Gemma-2 모델에서 SLAM은 100% 탐지 정확도를 달성하며 기존 방법 대비 매우 낮은 품질 저하를 보여줍니다.

🔑 시사점 및 한계

•

LLM 텍스트의 품질을 유지하면서 워터마크를 효과적으로 삽입하고 탐지할 수 있는 새로운 패러다임을 제시합니다.

•

언어의 구조적인 특징을 활용하여 워터마크를 삽입함으로써, 기존 토큰 빈도 기반 방식의 품질 저하 문제를 해결합니다.

•

SLAM은 단어 수준의 편집에는 강하지만, 구문 구조를 재구성하는 의역에는 취약할 수 있으며, 이는 향후 연구에서 개선될 필요가 있습니다.

PDF 보기

Made with Slashpage