Daily Arxiv

Cette page résume et organise les publications en intelligence artificielle du monde entier.
Les contenus sont synthétisés grâce à Google Gemini et le service est proposé à but non lucratif.
Les droits d'auteur des articles appartiennent à leurs auteurs ou institutions respectives ; en cas de partage, il suffit d'en mentionner la source.

Autonomie par conception : préserver l'autonomie humaine dans l'aide à la décision de l'IA

Created by
  • Haebom

Auteur

Stefan Buijsman, Sarah Carter, Juan Pablo Bermudez

Contour

Cet article analyse l'impact des systèmes d'IA sur l'autonomie spécifique à un domaine (la capacité d'agir de manière autonome dans un domaine spécifique de compétences ou d'expertise) dans des situations où les systèmes d'IA soutiennent la prise de décision humaine dans les domaines professionnel, technique et personnel. En particulier, nous nous concentrons sur deux composantes essentielles de l'autonomie spécifique à un domaine : la compétence qualifiée (la capacité à porter des jugements éclairés dans un domaine donné) et la formation authentique de valeurs (la capacité à véritablement former des valeurs et des préférences liées au domaine). À l'aide de cas empiriques issus des domaines de la santé, de la finance et de l'éducation, nous démontrons comment l'absence d'indicateurs fiables d'échec et le potentiel de changement de valeurs inconscient érodent l'autonomie spécifique à un domaine à court et à long terme. Nous développons ensuite un cadre de composition pour les systèmes soutenus par l'IA qui maintiennent l'autonomie, et proposons des modèles de conception sociotechniques spécifiques qui renforcent plutôt qu'entravent l'autonomie humaine dans des domaines d'action spécifiques, tels qu'une spécification minutieuse des rôles, la mise en œuvre de mécanismes de contre-mesures et le soutien à la pratique réflexive.

Takeaways, Limitations

Takeaways:
Fournit une analyse approfondie de l’impact des systèmes basés sur l’IA sur l’autonomie spécifique au domaine.
Nous présentons des modèles de conception sociotechniques spécifiques pour la conception de systèmes d’IA qui maintiennent une autonomie spécifique au domaine.
Nous analysons l’impact de l’IA dans divers domaines tels que la santé, la finance et l’éducation pour fournir des solutions pratiques Takeaways.
Il fournit des lignes directrices importantes pour le développement de systèmes d’IA qui respectent l’autonomie humaine.
Limitations:
Il existe un manque de validation de l’efficacité pratique des modèles de conception proposés.
Des recherches supplémentaires sont nécessaires pour déterminer la généralisabilité dans différents contextes culturels et sociaux.
Des critères plus explicites pour définir et mesurer l’autonomie spécifique à un domaine peuvent être nécessaires.
Il se peut qu’il y ait un manque de discussion sur les difficultés de mise en œuvre et d’application du cadre présenté.
👍