Daily Arxiv

Cette page résume et organise les publications en intelligence artificielle du monde entier.
Les contenus sont synthétisés grâce à Google Gemini et le service est proposé à but non lucratif.
Les droits d'auteur des articles appartiennent à leurs auteurs ou institutions respectives ; en cas de partage, il suffit d'en mentionner la source.

Les LLM multi-agents, défenseurs de l'éthique des systèmes basés sur l'IA

Created by
  • Haebom

Auteur

Asma Yamani, Malak Baslyman, Moataz Ahmed

Contour

Cet article propose un cadre intégrant l'éthique au processus d'élicitation des exigences afin de construire des systèmes conformes à l'éthique. Pour relever les défis de l'élicitation manuelle des exigences éthiques, qui nécessite de recueillir des contributions diverses auprès de multiples parties prenantes, nous présentons un cadre permettant de générer des projets d'exigences éthiques en introduisant un agent de défense de l'éthique dans un environnement LLM multi-agents. Cet agent fournit des critiques et des commentaires sur les questions éthiques en s'appuyant sur les descriptions du système. Nous évaluons le cadre proposé à travers deux études de cas, démontrant qu'il capture la plupart des exigences éthiques identifiées par les chercheurs lors d'un entretien de 30 minutes et suggère plusieurs exigences supplémentaires pertinentes. Cependant, il met en évidence des problèmes de fiabilité lors de la génération des exigences éthiques, soulignant la nécessité d'un retour d'information humain dans ce domaine sensible.

Takeaways, Limitations_

Takeaways:
Un cadre permettant de générer automatiquement des exigences éthiques à l’aide de LLM multi-agents est présenté.
Contribuer à résoudre le problème de la collecte des avis des différentes parties prenantes, qui est difficile en raison des contraintes de temps et de ressources.
Suggérant la possibilité d’accroître l’efficacité du processus de dérivation des exigences éthiques.
Proposer une approche pratique pour développer des systèmes éthiques
Limitations:
L'existence de problèmes de fiabilité dans la génération d'exigences éthiques
Le feedback humain est essentiel dans les domaines éthiques sensibles.
Forte dépendance aux performances du LLM
Des recherches supplémentaires sont nécessaires pour déterminer la généralisabilité dans divers contextes éthiques.
👍