Daily Arxiv

Esta página recopila y organiza artículos sobre inteligencia artificial publicados en todo el mundo.
La información aquí presentada se resume utilizando Google Gemini y el sitio se gestiona sin fines de lucro.
Los derechos de autor de los artículos pertenecen a sus autores y a las instituciones correspondientes; al compartir el contenido, basta con citar la fuente.

Aprender a conducir éticamente: integrar el razonamiento moral en la conducción autónoma

Created by
  • Haebom

Autor

Dianzhao Li, Ostap Okrin

Describir

Este artículo presenta un marco jerárquico de Aprendizaje por Refuerzo Seguro (ARP Seguro) para la toma de decisiones éticas en vehículos autónomos. Este marco está diseñado en torno a un agente de ARP Seguro que genera objetivos de acción de alto nivel utilizando los costos de riesgo ético, que combinan la probabilidad de colisión y la gravedad del daño. Aprovecha un mecanismo dinámico de repetición de experiencias priorizada para mejorar el aprendizaje sobre eventos de alto riesgo poco frecuentes pero críticos, y genera trayectorias fluidas y factibles mediante la planificación de rutas polinómicas y controladores PID y Stanley. El entrenamiento y la validación con un conjunto de datos de tráfico real demuestran un rendimiento superior al de los métodos existentes en términos de reducción de riesgos éticos y mantenimiento del rendimiento de conducción. Cabe destacar que este es el primer estudio de ARP Seguro que evalúa la toma de decisiones éticas en vehículos autónomos en un escenario real de tráfico mixto.

Takeaways, Limitations

Takeaways:
Presentación y validación del desempeño de un marco de aprendizaje automático seguro para la toma de decisiones éticas en vehículos autónomos utilizando datos del mundo real.
Desarrollar un sistema de toma de decisiones que considere explícitamente los riesgos éticos (probabilidad de colisión y gravedad del daño).
Aprendizaje mejorado de eventos de alto riesgo a través de mecanismos dinámicos de reproducción de experiencias prioritarias.
Mejorar la autonomía éticamente responsable combinando la teoría del control formal y el aprendizaje basado en datos.
Contribuir a la protección de los usuarios vulnerables de la vía, como peatones y ciclistas.
Limitations:
Se necesita más investigación sobre las limitaciones y la generalización de los conjuntos de datos del mundo real.
Se necesita una revisión más profunda para determinar si se justifica un tratamiento integral de varios dilemas éticos.
Se necesita un análisis más profundo del costo computacional y del rendimiento en tiempo real del marco.
Se necesita una mayor validación de la seguridad y confiabilidad a largo plazo.
👍