본 논문은 자원 제약적인 환경에서의 가중치 배포, 특히 델타 압축(Delta Compression)에 초점을 맞춘다. 기존의 Low Rank Adaptation (LoRA)과 같은 파라미터 효율적인 업데이트 방식이 양자화와 결합될 때 표현력의 한계가 있음을 지적하고, 이를 해결하기 위해 고정 주파수 사인 함수를 사용하여 안정적인 랭크를 증가시키는 SineLoRA를 개발했다. SineLoRA를 양자화 환경에 적용하여 SineLoRA$\Delta$를 제안하고, 델타 압축을 위한 효과적인 방법론을 제시한다. 언어 모델링, 비전-언어 작업, 텍스트-이미지 생성 등 다양한 도메인에서 최대 66% 메모리 감소와 유사한 성능을 달성했으며, Bj{\o}ntegaard Delta 메트릭을 사용하여 어댑터 압축 변화를 일관되게 비교했다.