본 논문은 개인 사용자에게 불가능한 대규모 오픈소스 언어 모델(LLM)의 로컬 배포 문제를 해결하기 위해 분산 컴퓨팅을 활용하는 방법을 제시합니다. 분산 컴퓨팅 제공자가 비용 절감을 위해 사용자 동의 없이 요청된 LLM을 더 작고 성능이 낮은 모델로 몰래 바꿀 수 있다는 문제점을 지적하며, 이를 해결하기 위한 비밀 기반 검증 가능 LLM 추론 프로토콜인 SVIP을 제안합니다. SVIP는 암호화 또는 게임 이론적 기법에 기반한 기존 솔루션과 달리 계산 효율적이며 강력한 가정에 의존하지 않습니다. 제공자는 생성된 텍스트와 LLM에서 처리된 은닉 표현을 모두 반환해야 하며, 이 표현을 고유한 모델 식별자로 변환하는 프록시 작업을 통해 검증을 수행합니다. 다양한 적응형 공격 시나리오 하에서의 분석과 실험을 통해 SVIP의 정확성, 일반화 성능, 계산 효율성 및 다양한 공격에 대한 내성을 입증합니다. 특히, SVIP는 5% 미만의 위음성률과 3% 미만의 위양성률을 달성하며, 검증에 0.01초 미만의 시간이 소요됩니다.
