Bài báo này khám phá các chiến lược để truyền tải bộ nhớ thủ tục có thể học, cập nhật và suốt đời nhằm giải quyết vấn đề bộ nhớ thủ tục mong manh của các tác nhân dựa trên mô hình ngôn ngữ quy mô lớn (LLM). Chúng tôi đề xuất một phương pháp mới, Memp, trích xuất các quỹ đạo trong quá khứ của tác nhân thành các hướng dẫn từng bước chi tiết và các trừu tượng hóa giống như tập lệnh cấp cao. Chúng tôi khám phá tác động của các chiến lược khác nhau để xây dựng, truy xuất và cập nhật bộ nhớ thủ tục, đồng thời xây dựng một kho lưu trữ bộ nhớ phát triển với những trải nghiệm mới thông qua một hệ thống động liên tục cập nhật, sửa đổi và loại bỏ nội dung của nó. Kết quả thử nghiệm trên TravelPlanner và ALFWorld chứng minh rằng khi kho lưu trữ bộ nhớ được tinh chỉnh, tỷ lệ thành công và hiệu quả của tác nhân đối với các tác vụ tương tự sẽ được cải thiện đều đặn. Hơn nữa, bộ nhớ thủ tục được xây dựng trên một mô hình mạnh vẫn giữ nguyên giá trị của nó, dẫn đến những cải tiến hiệu suất đáng kể ngay cả khi chuyển sang một mô hình yếu hơn.
