[공지사항]을 빙자한 안부와 근황 
Show more

Daily Arxiv

Esta página recopila y organiza artículos sobre inteligencia artificial publicados en todo el mundo.
La información aquí presentada se resume utilizando Google Gemini y el sitio se gestiona sin fines de lucro.
Los derechos de autor de los artículos pertenecen a sus autores y a las instituciones correspondientes; al compartir el contenido, basta con citar la fuente.

LLM multiagente como defensores de la ética para sistemas basados en IA

Created by
  • Haebom

Autor

Asma Yamani, Malak Baslyman, Moataz Ahmed

Describir

Este artículo propone un marco para integrar la ética en el proceso de obtención de requisitos y construir sistemas que cumplan con las normas éticas. Para abordar las limitaciones de tiempo y recursos del método manual actual de obtención de requisitos éticos, introducimos un agente defensor de la ética en un entorno LLM multiagente para generar borradores de requisitos éticos. Mediante dos estudios de caso, demostramos que el marco propuesto captura la mayoría de los requisitos éticos derivados de las entrevistas con investigadores y sugiere requisitos adicionales, pero destacamos los problemas de fiabilidad de la generación de requisitos éticos y la necesidad de retroalimentación humana. En definitiva, esperamos que este estudio facilite el desarrollo de productos que cumplan con las normas éticas mediante una aplicación más amplia de la ética al proceso de ingeniería de requisitos.

Takeaways, Limitations

Takeaways:
Un marco para generar automáticamente requisitos éticos utilizando LLM multiagente
Proporciona un enfoque eficaz para resolver problemas de limitaciones de tiempo y recursos.
Sugiriendo la posibilidad de mejorar la eficiencia del proceso de derivación de requisitos éticos
Proporciona una metodología práctica para desarrollar sistemas éticamente compatibles.
Limitations:
Existe un problema de confiabilidad a la hora de generar requisitos éticos.
Destacar el papel esencial de la retroalimentación humana, ya que es un área sensible.
Alta dependencia del rendimiento del LLM
Se necesita más investigación sobre la generalización a diferentes contextos éticos.
👍