Bài báo này nhằm mục đích giải quyết vấn đề mất tính dẻo (mất khả năng học khi học từ dữ liệu bất thường dài hạn) của mạng nơ-ron, một vấn đề quan trọng trong thiết kế hệ thống học liên tục. Chúng tôi đề xuất một phương pháp khởi tạo lại một phần của mạng như một kỹ thuật hiệu quả để ngăn ngừa mất tính dẻo. Chúng tôi so sánh và phân tích hai phương pháp khởi tạo lại: khởi tạo lại đơn vị và khởi tạo lại trọng số. Cụ thể, chúng tôi đề xuất một thuật toán mới, "khởi tạo lại trọng số chọn lọc", và so sánh nó với các thuật toán khởi tạo lại đơn vị hiện có, lan truyền ngược liên tục và ReDo. Kết quả thực nghiệm của chúng tôi cho thấy khởi tạo lại trọng số hiệu quả hơn khởi tạo lại đơn vị trong việc duy trì tính dẻo khi kích thước mạng nhỏ hoặc có chuẩn hóa lớp. Ngược lại, khi kích thước mạng đủ lớn và không có chuẩn hóa lớp, hai phương pháp này có hiệu quả như nhau. Tóm lại, chúng tôi chứng minh rằng khởi tạo lại trọng số hiệu quả hơn khởi tạo lại đơn vị trong việc duy trì tính dẻo trên một phạm vi môi trường rộng hơn.
