Bài báo này trình bày CURE, một khuôn khổ nhẹ mới để giải quyết các tương quan giả dựa trên khái niệm làm ảnh hưởng đến tính mạnh mẽ và công bằng của các mô hình ngôn ngữ được đào tạo trước. CURE trích xuất các biểu diễn không liên quan đến khái niệm thông qua một trình trích xuất nội dung chuyên dụng và mạng đảo ngược, giảm thiểu việc mất thông tin liên quan đến nhiệm vụ. Một mô-đun khử thiên vị có thể kiểm soát sau đó tinh chỉnh ảnh hưởng của các tín hiệu khái niệm còn lại bằng cách sử dụng học tương phản, cho phép mô hình giảm các thiên kiến có hại hoặc tận dụng các tương quan có lợi phù hợp với nhiệm vụ mục tiêu. Được đánh giá trên các tập dữ liệu IMDB và Yelp bằng ba kiến trúc được đào tạo trước, CURE đã cải thiện điểm F1 thêm 10 điểm trên IMDB và 2 điểm trên Yelp, đồng thời giảm thiểu chi phí tính toán. Nghiên cứu này trình bày một thiết kế dựa trên học không giám sát linh hoạt để giải quyết thiên kiến khái niệm, mở đường cho các hệ thống hiểu ngôn ngữ đáng tin cậy và công bằng hơn.
