[공지사항]을 빙자한 안부와 근황 
Show more

Daily Arxiv

Cette page résume et organise les publications en intelligence artificielle du monde entier.
Les contenus sont synthétisés grâce à Google Gemini et le service est proposé à but non lucratif.
Les droits d'auteur des articles appartiennent à leurs auteurs ou institutions respectives ; en cas de partage, il suffit d'en mentionner la source.

Risques liés à l'ignorance de la propagation de l'incertitude dans les pipelines de sécurité augmentés par l'IA

Created by
  • Haebom

Auteur

Emanuele Mezzi, Aurora Papotti, Fabio Massacci, Katja Tuma

Contour

Dans cet article, nous présentons une méthode permettant de quantifier l'incertitude des systèmes d'IA dont les performances sont incertaines, dans le contexte de la tendance croissante du développement logiciel intégrant des sous-systèmes d'IA dans des pipelines automatisés. Malgré la connaissance de l'incertitude dans les analyses de risques existantes, aucune étude n'a tenté d'estimer l'incertitude des systèmes augmentés par l'IA en tenant compte de la propagation des erreurs dans le pipeline. Cette étude fournit une base formelle pour capturer la propagation de l'incertitude, développe un simulateur pour quantifier l'incertitude et évalue la simulation de la propagation des erreurs à travers une étude de cas. Nous discutons également de la généralisabilité et des limites de l'approche, et formulons des recommandations pour les politiques d'évaluation des systèmes d'IA. Les travaux futurs incluent l'extension de l'approche en assouplissant les hypothèses restantes et en expérimentant avec des systèmes réels.

Takeaways, Limitations_

Takeaways:
Une nouvelle méthodologie d’analyse quantitative de la propagation de l’incertitude dans les systèmes basés sur l’IA est présentée.
Offrir une nouvelle perspective sur l’évaluation de la sécurité des pipelines de développement de logiciels augmentés par l’IA.
Fournir des recommandations pour l’établissement de politiques d’évaluation des systèmes d’IA.
Limitations:
Actuellement, une seule étude de cas a été menée et d’autres expériences et applications à divers systèmes sont nécessaires.
Certaines hypothèses existent et devraient être assouplies dans les études futures.
Aucune expérience n’a encore été réalisée sur des systèmes réels.
👍