Bài báo này khám phá cách cung cấp ngữ cảnh phong phú để cải thiện hiệu suất của các mô hình ngôn ngữ quy mô lớn (LLM). Để giải quyết vấn đề chi phí tính toán tăng cao của các câu lệnh dài và kích thước đầu vào hạn chế của LLM, chúng tôi đề xuất PartPrompt, một phương pháp nén chọn lọc mới khắc phục được những hạn chế của các phương pháp nén sinh và nén chọn lọc hiện có. PartPrompt sử dụng cây cú pháp dựa trên quy tắc ngôn ngữ để tính toán entropy thông tin của mỗi nút và dựa trên điều này, xây dựng một cây toàn cục xem xét cấu trúc phân cấp (sự phụ thuộc giữa các câu, đoạn văn và phần). Nó điều chỉnh các giá trị nút thông qua quá trình lan truyền từ dưới lên và từ trên xuống trên cây toàn cục, sau đó nén các câu lệnh bằng cách cắt tỉa cây bằng thuật toán đệ quy dựa trên các giá trị nút đã điều chỉnh. Kết quả thử nghiệm chứng minh rằng PartPrompt đạt được hiệu suất tiên tiến trên nhiều tập dữ liệu, số liệu đánh giá, tỷ lệ nén và LLM khác nhau. Nó cũng thể hiện sự vượt trội về tính gắn kết của các câu lệnh được nén và trong các tình huống câu lệnh cực dài.
