Daily Arxiv

Cette page résume et organise les publications en intelligence artificielle du monde entier.
Les contenus sont synthétisés grâce à Google Gemini et le service est proposé à but non lucratif.
Les droits d'auteur des articles appartiennent à leurs auteurs ou institutions respectives ; en cas de partage, il suffit d'en mentionner la source.

Comment les modèles génératifs attirent-ils un ingénieur logiciel ? Étude de cas sur le biais de diffusion stable

Created by
  • Haebom

Auteur

Tosin Fadahunsi, Giordano d'Aloisio, Antinisca Di Marco, Federica Sarro

Contour

Cet article génère des images liées au génie logiciel à l'aide de trois versions du modèle de diffusion stable (SD) (SD 2, SD XL et SD 3) et analyse les biais de genre et d'origine ethnique dans les images générées. Compte tenu des déséquilibres de genre et d'origine ethnique dans le domaine du génie logiciel, nous avons généré 6 720 images à l'aide de chaque modèle pour deux invites : l'une contenant le mot-clé « ingénieur logiciel » et l'autre non. Notre analyse révèle que tous les modèles tendent à représenter les ingénieurs logiciels comme des hommes, les modèles SD 2 et SD XL affichant une représentation légèrement plus élevée de personnes blanches, et le modèle SD 3 une représentation légèrement plus élevée de personnes asiatiques. Tous les modèles sous-représentaient les personnes noires et arabes. Ces résultats soulèvent de sérieuses inquiétudes quant aux biais liés à l'utilisation de modèles génératifs dans le domaine du génie logiciel et suggèrent la nécessité de recherches supplémentaires pour atténuer ces biais.

Takeaways, Limitations_

Takeaways:
Démonstration empirique des préjugés sexistes et raciaux dans les modèles génératifs en génie logiciel.
Souligne que les modèles génératifs peuvent amplifier les biais sociaux existants.
La nécessité de stratégies d’atténuation des biais lors de l’utilisation de modèles génératifs en ingénierie logicielle est soulevée.
Soulever la nécessité de recherches supplémentaires sur la question des biais des modèles génératifs.
Limitations:
L'analyse d'un modèle génératif spécifique (diffusion stable) présente des limites de généralisation.
Absence de propositions spécifiques pour atténuer les biais.
Limitations de la variété des invites utilisées dans l’analyse.
Potentiel d’erreur dû à la subjectivité de la classification raciale et sexuelle.
👍