Daily Arxiv

世界中で発行される人工知能関連の論文をまとめるページです。
このページはGoogle Geminiを活用して要約し、非営利で運営しています。
論文の著作権は著者および関連機関にあり、共有する際は出典を明記してください。

Evidence Without Injustice: A New Counterfactual Test for Fair Algorithms

Created by
  • Haebom

作者

Michele Loi, Marcello Di Bello, Nicol o Cangiotti

概要

アルゴリズム公平性に関する既存の研究は、統計的基準、因果的アプローチ、構造的不公平性の役割を扱ってきたが、アルゴリズム出力の証拠的価値自体が構造的不公正に依存するかどうかの重要な側面は見落とされた。本論文は、過去の犯罪データに基づく予測治安アルゴリズムと現在の犯罪を記録するカメラベースのシステムとを比較することによってこの問題を探る。証拠の道徳的受け入れ可能性を評価する際には、証拠が現実世界で有効であるかだけでなく、関連する不公平のない近接世界でも有​​効であるかどうかを考慮する必要があります。予測治安アルゴリズムはこのテストに合格しませんが、カメラベースのシステムは通過します。テストに合格しなかった証拠は、罰の目的で使用することが道徳的にさらに問題になります。

Takeaways、Limitations

•
Takeaways：
◦
アルゴリズム公平性評価では、アルゴリズムが依存するデータの特性と構造的不公正との関係を考慮する必要があることを強調します。
◦
証拠の道徳的許容性を評価する新しい基準を提示する。
◦
予測治安アルゴリズムの潜在的な不公平性を指摘し、カメラベースのシステムなどの代替の可能性を提示する。
•
Limitations：
◦
具体的なアルゴリズム設計と実装の詳細な分析は不十分です。
◦
カメラベースのシステムの潜在的なプライバシー侵害およびその他の倫理的問題についての議論は不十分である。
◦
「近接世界」の概念を実際に適用する方法に関する具体的な方法論は提示されていない。
👍
Made with Slashpage