본 논문은 기존의 대규모 언어 모델(LLM) 미세 조정 기법이 가진 높은 부동 소수점 연산 요구량, 개인정보보호 문제, 그리고 자원 제약적인 에지 디바이스에서의 비실용성 등의 문제점을 해결하기 위해, 부동 소수점 연산 없이 온디바이스 LLM 미세 조정이 가능한 새로운 프레임워크인 GSQ-Tuning을 제시한다. GSQ-Tuning은 파라미터 그룹 간 공유 지수를 사용하는 Group-Shared Exponents Integer 형식을 통해 모델 파라미터를 정수 형식으로 효율적으로 표현하고, LoRA와 유사한 어댑터와 결합하여 메모리 및 연산 효율적인 완전 정수 기반 미세 조정을 가능하게 한다.
