Bài báo này đề xuất một phương pháp tạo ma trận quay mới dựa trên lượng tử hóa sau đào tạo (PTQ) để giải quyết các thách thức triển khai của các mô hình ngôn ngữ quy mô lớn (LLM), vốn đòi hỏi các tài nguyên tính toán tốn kém. Để giải quyết tình trạng suy giảm hiệu suất của các phương pháp dựa trên phép quay hiện có ở độ rộng bit rất thấp, chẳng hạn như 2 bit, chúng tôi trình bày một phương pháp mới giúp giảm lỗi lượng tử hóa bằng cách nhóm các thành phần tần số tương tự nhau bằng cách sử dụng phép biến đổi Walsh-Hadamard và căn chỉnh chuỗi. Cụ thể, chúng tôi trình bày kỹ thuật Xoay Căn chỉnh Chuỗi Nhóm (GSR), sử dụng ma trận đường chéo khối với các khối Walsh nhỏ, cô lập hiệu quả ảnh hưởng của các giá trị ngoại lai và đạt được hiệu suất tương đương với các phương pháp tối ưu hóa dựa trên học máy. Chúng tôi xác thực hiệu suất của phương pháp được đề xuất thông qua các tác vụ suy luận và đánh giá điểm số độ phức tạp (PPL) trên tập dữ liệu WikiText-2, chứng minh sự cải thiện hiệu suất của nó so với các kỹ thuật xoay đã học hiện có.
