[공지사항]을 빙자한 안부와 근황 
Show more

Arxiv hàng ngày

Đây là trang tổng hợp các bài báo về trí tuệ nhân tạo được xuất bản trên toàn thế giới.
Trang này sử dụng Google Gemini để tóm tắt nội dung và hoạt động phi lợi nhuận.
Bản quyền của các bài báo thuộc về tác giả và tổ chức liên quan; khi chia sẻ, chỉ cần ghi rõ nguồn.

Bộ dữ liệu thu được từ nghiên cứu của người dùng về khả năng hiểu được các thuật toán AI có thể giải thích được

Created by
  • Haebom

Tác giả

Szymon Bobek, Paloma Koryci nska, Monika Krakowska, Maciej Mozolewski, Dorota Rak, Magdalena Zych, Magdalena W ojcik, Grzegorz J. Nalepa

Phác thảo

Bài báo này giới thiệu một tập dữ liệu kết quả nghiên cứu người dùng về khả năng hiểu được các thuật toán trí tuệ nhân tạo (XAI) có thể giải thích được. Những người tham gia, được chọn từ 149 ứng viên, được chia thành ba nhóm: chuyên gia về nấm học (DE), sinh viên có nền tảng về khoa học dữ liệu và trực quan hóa (IT), và sinh viên khoa học xã hội và nhân văn (SSH). Nội dung chính của tập dữ liệu bao gồm 39 bản ghi phỏng vấn, trong đó người tham gia được yêu cầu một loạt các nhiệm vụ và câu hỏi liên quan đến việc diễn giải các giải thích cho các quyết định của một mô hình học máy được đào tạo để phân biệt giữa nấm ăn được và nấm không ăn được. Các bản ghi này chứa dữ liệu bổ sung như hình ảnh hóa các giải thích được trình bày cho người dùng, kết quả phân tích chủ đề, các khuyến nghị để cải thiện các giải thích do người tham gia cung cấp và kết quả khảo sát ban đầu cung cấp thông tin chi tiết về kiến thức chuyên môn và kỹ năng phân tích dữ liệu của người tham gia. Việc gắn thẻ thủ công các bản ghi đã được thực hiện để tự động khớp giữa văn bản và dữ liệu khác liên quan đến một phần cụ thể. Với sự phát triển nhanh chóng của công nghệ XAI, nhu cầu đánh giá khả năng giải thích định tính đa ngành là một trong những chủ đề mới nổi trong cộng đồng. Bộ dữ liệu này cung cấp nhiều khả năng để phân tích dữ liệu đã thu thập cũng như để sao chép nghiên cứu.

Takeaways, Limitations

•
Takeaways:
◦
Chúng tôi cung cấp một tập dữ liệu mới để đánh giá đa ngành và định tính về khả năng hiểu được các thuật toán XAI.
◦
Nó cho phép chúng tôi đánh giá mức độ hiểu biết chung về các giải thích XAI bằng cách đưa ra ý kiến đóng góp từ những người tham gia có nhiều nền tảng khác nhau, bao gồm nấm học, khoa học dữ liệu và khoa học xã hội.
◦
Nó cung cấp nhiều dữ liệu bổ sung, chẳng hạn như hình ảnh giải thích, kết quả phân tích chủ đề và đề xuất cải tiến, cho phép phân tích chuyên sâu.
◦
Nhấn mạnh tầm quan trọng của phương pháp nghiên cứu định tính trong nghiên cứu XAI.
•
Limitations:
◦
Bộ dữ liệu có thể có khả năng khái quát hóa hạn chế vì nó bị giới hạn ở một mô hình học máy cụ thể (mô hình phân loại nấm ăn được/không ăn được) và một miền cụ thể (nấm học).
◦
Số lượng người tham gia tương đối nhỏ, điều này có thể khiến việc khái quát hóa về mặt thống kê trở nên khó khăn.
◦
Có khả năng xảy ra lỗi vì phải gắn thẻ thủ công.
👍
Made with Slashpage