Daily Arxiv

Esta página recopila y organiza artículos sobre inteligencia artificial publicados en todo el mundo.
La información aquí presentada se resume utilizando Google Gemini y el sitio se gestiona sin fines de lucro.
Los derechos de autor de los artículos pertenecen a sus autores y a las instituciones correspondientes; al compartir el contenido, basta con citar la fuente.

¿Cómo influyen los modelos generativos en un ingeniero de software? Un caso práctico sobre el sesgo de difusión estable

Created by
  • Haebom

Autor

Tosin Fadahunsi, Giordano d'Aloisio, Antinisca Di Marco, Federica Sarro

Describir

Este artículo genera imágenes relacionadas con la ingeniería de software utilizando tres versiones del modelo de Difusión Estable (SD) (SD 2, SD XL y SD 3) y analiza los sesgos de género y raza en las imágenes generadas. Considerando los desequilibrios de género y raza en el campo de la ingeniería de software, generamos 6720 imágenes utilizando cada modelo para dos indicaciones: una con la palabra clave "ingeniero de software" y otra sin ella. Nuestro análisis revela que todos los modelos tienden a representar a los ingenieros de software como hombres; SD 2 y SD XL muestran una representación ligeramente mayor de individuos blancos, y SD 3, una representación ligeramente mayor de individuos asiáticos. Todos los modelos subrepresentaron a los individuos negros y árabes. Estos resultados plantean serias preocupaciones sobre el sesgo al utilizar modelos generativos en el campo de la ingeniería de software y sugieren la necesidad de más investigación para mitigarlo.

Takeaways, Limitations

•
Takeaways:
◦
Demostración empírica del sesgo de género y racial en modelos generativos en ingeniería de software.
◦
Destaca que los modelos generativos pueden amplificar los sesgos sociales existentes.
◦
Se plantea la necesidad de estrategias de mitigación de sesgos cuando se utilizan modelos generativos en ingeniería de software.
◦
Se plantea la necesidad de realizar más investigaciones sobre el problema del sesgo de los modelos generativos.
•
Limitations:
◦
El análisis de un modelo generativo específico (Difusión Estable) tiene limitaciones en la generalización.
◦
Ausencia de propuestas específicas para mitigar sesgos.
◦
Limitaciones en la variedad de indicaciones utilizadas en el análisis.
◦
Potencial de error debido a la subjetividad de la clasificación de raza y género.
👍
Made with Slashpage