Bài báo này đề cập đến những lo ngại về lòng tin, sự giám sát, an toàn và phẩm giá con người bắt nguồn từ sự thiếu minh bạch của các mô hình học máy hiện đại. Mặc dù các phương pháp giải thích hỗ trợ việc hiểu mô hình, nhưng việc thiết kế các giải thích vừa dễ hiểu vừa hiệu quả cho đối tượng mục tiêu của các nhà phát triển vẫn còn là một thách thức. Một thử nghiệm quy mô lớn với 124 người tham gia đã xem xét cách các nhà phát triển cung cấp giải thích cho người dùng cuối, những thách thức họ gặp phải và mức độ mà các chính sách cụ thể hướng dẫn hành vi của họ. Kết quả cho thấy hầu hết người tham gia đều gặp khó khăn trong việc tạo ra các giải thích chất lượng cao và tuân thủ các chính sách được cung cấp, trong khi bản chất và tính cụ thể của hướng dẫn chính sách ít ảnh hưởng đến hiệu quả. Chúng tôi lập luận rằng điều này bắt nguồn từ việc không hình dung và dự đoán được nhu cầu của các bên liên quan không chuyên về kỹ thuật, và khuyến nghị các biện pháp can thiệp giáo dục dựa trên lý thuyết quá trình nhận thức và trí tưởng tượng xã hội.
