[공지사항]을 빙자한 안부와 근황 
Show more

Daily Arxiv

Esta página recopila y organiza artículos sobre inteligencia artificial publicados en todo el mundo.
La información aquí presentada se resume utilizando Google Gemini y el sitio se gestiona sin fines de lucro.
Los derechos de autor de los artículos pertenecen a sus autores y a las instituciones correspondientes; al compartir el contenido, basta con citar la fuente.

Agregación teórica de la información de atributos éticos en el comando simulado

Created by
  • Haebom

Autor

Taylan Akay, Harrison Tolley, Hussein Abbass

Describir

Este artículo presenta un método para que los comandantes humanos procesen eficientemente decisiones con implicaciones éticas mediante la simulación de amplios escenarios en la era de la IA. Al trasladar el juicio humano fuera del ciclo de toma de decisiones de la simulación, los humanos diseñan un espacio de escala ética, y el entorno de simulación lo explora. Tras la simulación, el comandante humano, al que se le presentan varias opciones, selecciona y ejecuta la línea de acción óptima. El núcleo de este artículo es un método para calcular dinámicamente las ponderaciones de las decisiones éticas durante el proceso de simulación. Presentamos varios enfoques que calculan automáticamente las ponderaciones de los atributos éticos utilizando el concepto de entropía utilizado en la literatura sobre toma de decisiones multicriterio. Asumimos que el problema de diseñar una escala con el nivel de detalle suficiente para evaluar las implicaciones éticas ya está resuelto.

Takeaways, Limitations

Takeaways:
Un nuevo marco para optimizar los procesos de toma de decisiones éticas en simulaciones basadas en IA
Proponer un método para calcular automáticamente ponderaciones de atributos éticos utilizando la teoría de decisiones multicriterio
Maximice la utilidad de las simulaciones aprovechando estratégicamente el juicio humano
Limitations:
Suponiendo que el problema de diseñar escalas éticas ya se ha resuelto, en realidad puede ser un problema difícil.
Es necesaria una mayor verificación de la eficacia práctica y la aplicabilidad del método de cálculo de peso propuesto.
Se necesitan más investigaciones sobre la generalización a diferentes tipos de dilemas éticos.
👍