Daily Arxiv

世界中で発行される人工知能関連の論文をまとめるページです。
このページはGoogle Geminiを活用して要約し、非営利で運営しています。
論文の著作権は著者および関連機関にあり、共有する際は出典を明記してください。

Beyond Pixels: Enhancing LIME with Hierarchical Features and Segmentation Foundation Models

Created by
  • Haebom

作者

Patrick Knab, Sascha Marton, Christian Bartelt

概要

LIME(Local Interpretable Model-agnostic Explanations)は、ビジョン機械学習モデルの意思決定プロセスを説明するために広く使用されているXAIフレームワークです。 LIMEは画像分割方法を使用して、特徴の重要度スコアを計算するための固定領域を識別します。ただし、不正確な分割は説明の信頼性を低下させ、セグメントの重要性を減らし、解釈の明確性に影響を与える可能性があります。この論文では、この問題を解決するために、基礎モデル統合によるデータ駆動型分割と階層分割手順におけるユーザー主導の細分性を特徴とするデータ駆動型セグメント化LIME(DSEG-LIME)フレームワークを紹介します。実験の結果、DSEGは、複数のXAI指標で事前訓練されたImageNetモデルの従来の方法よりも優れており、説明と人が認識する概念との間の一致を改善することを示しています。コードはhttps://github.com/patrick-knab/DSEG-LIMEで確認できます。

Takeaways、Limitations

Takeaways:
データ駆動型画像分割により、LIMEの説明精度と信頼性が向上しました。
ユーザー主導の階層分割により、説明の細分性を調整できます。
既存のLIMEよりも改善されたXAI指標を達成しました。
人が認識する概念との一致度が向上しました。
Limitations:
提示された方法がすべてのタイプのビジョンモデルまたはデータセットに適用可能であることについてのさらなる研究が必要です。
基礎モデルのパフォーマンスに依存する可能性があります。
ユーザー主導の粒度調整は、ユーザーの専門知識を必要とする可能性があります。
👍