Bài báo này đề xuất EvoP, một khuôn khổ cắt tỉa tiến hóa, để giải quyết vấn đề triển khai các mô hình ngôn ngữ quy mô lớn (LLM) trong môi trường hạn chế tài nguyên. Để giải quyết vấn đề suy giảm hiệu suất và bỏ qua tính năng dữ liệu của các phương pháp cắt tỉa dựa trên kinh nghiệm hiện có, EvoP giới thiệu chiến lược lấy mẫu dữ liệu hiệu chuẩn dựa trên cụm (CCDS) để tạo ra các tập dữ liệu hiệu chuẩn đa dạng và phương pháp tìm kiếm mẫu cắt tỉa tiến hóa (EPPS) để xác định các mẫu cắt tỉa tối ưu. Các thử nghiệm trên nhiều LLM và tác vụ con khác nhau đã chứng minh tính hiệu quả của EvoP, chứng minh giải pháp thực tế và có khả năng mở rộng của nó trong việc triển khai LLM trong các ứng dụng thực tế.
