Daily Arxiv

世界中で発行される人工知能関連の論文をまとめるページです。
このページはGoogle Geminiを活用して要約し、非営利で運営しています。
論文の著作権は著者および関連機関にあり、共有する際は出典を明記してください。

I-CEE: Tailoring Explanations of Image Classification Models to User Expertise

Created by
  • Haebom

作者

Yao Rong, Peizhu Qian, Vaibhav Unhelkar, Enkelejda Kasneci

概要

この論文は、黒箱の機械学習モデルの決定を効果的に説明することがAIシステムの責任ある展開に重要であることを強調し、ユーザー中心の説明可能なAI(XAI)のためのI-CEEフレームワークを提示します。 I-CEEは、画像分類モデルの決定を説明するために、情報に豊富なトレーニングデータのサブセット(例示的な画像)、対応する地域的な説明、およびモデル決定をユーザーに提供します。従来の研究とは対照的に、I-CEE は、ユーザーの専門知識に従ってモデル画像の情報をモデル化し、ユーザーごとに異なる例を提供します。シミュレーションと100人の参加者を対象とした実験により、ユーザーのモデル決定予測精度(模擬性)を向上させることを示しています。

Takeaways、Limitations

Takeaways:
ユーザー中心のXAIアプローチを提示し、ユーザーの専門知識に合わせた説明を提供することで、理解とモデリティを向上させることができます。
I-CEEフレームワークは、ユーザーのモデル理解を高め、モデルの決定をよりよく予測できることを実験的に証明します。
従来の「One-size-fits-all」方式のXAIの限界を克服し、カスタマイズされた説明の重要性を強調します。
Limitations:
現在は、画像分類モデルにのみ適用されており、他のタイプのモデルの一般化の可能性はさらなる研究を必要とする。
ユーザーの専門知識を正確に評価する方法に関する追加の研究が必要な場合があります。
100人の参加者を対象とした実験結果は規模が制限されており、より多様な人口集団のさらなる研究が必要になる場合があります。
👍