[공지사항]을 빙자한 안부와 근황 
Show more

Daily Arxiv

世界中で発行される人工知能関連の論文をまとめるページです。
このページはGoogle Geminiを活用して要約し、非営利で運営しています。
論文の著作権は著者および関連機関にあり、共有する際は出典を明記してください。

Dataset resulting from the user study on comprehensibility of explainable AI algorithms

Created by
  • Haebom

作者

Szymon Bobek, Paloma Korycinska , Monika Krakowska, Maciej Mozolewski, Dorota Rak, Magdalena Zych, Magdalena W ojcik, Grzegorz J. Nalepa

概要

本論文は、説明可能な人工知能(XAI)アルゴリズムの理解度に関するユーザー研究結果データセットを紹介します。 149人の候補者の中から選ばれた参加者は、3つのグループに分けられています。データセットの主な内容は39のインタビューであり、参加者は食用と非食用のキノコを区別するように訓練された機械学習モデルの決定の説明の解釈に関連する一連の課題と質問を受けました。記録には、ユーザーに提示された説明の可視化、トピック分析の結果、参加者が提供した説明改善の推奨事項、参加者のドメイン知識、データ分析の所要量を把握できる初期アンケート結果などの追加データが含まれている。テキストと特定の部分に関連する他のデータとの間の自動マッチングのために、記録に手動タグ付けが行われた。 XAI技術の急速な発展の中で、多学的定性的説明可能性評価の必要性は、コミュニティの新しいテーマの1つです。このデータセットは、研究の再現だけでなく、収集されたデータ分析の広範な可能性を提供します。

Takeaways、Limitations

Takeaways:
XAIアルゴリズムの理解度の多学的で質的な評価のための新しいデータセットを提供します。
菌学、データ科学、社会科学など多様な背景の参加者の意見を含め、XAIの説明の一般的な理解度を評価することができる。
説明の可視化、トピック分析の結果、改善勧告など、さまざまな追加データを提供し、詳細な分析を可能にする。
XAI研究における定性的研究方法論の重要性を強調する。
Limitations:
データセットは特定の機械学習モデル(食用/非食用キノコ区分モデル)と特定のドメイン(菌学)に限定され、一般化の可能性に制限がある可能性があります。
参加者数が比較的少なく、統計的一般化に困難がある可能性がある。
手動タグ付けに依存する部分があり、エラーの可能性があります。
👍