Esta página recopila y organiza artículos sobre inteligencia artificial publicados en todo el mundo. La información aquí presentada se resume utilizando Google Gemini y el sitio se gestiona sin fines de lucro. Los derechos de autor de los artículos pertenecen a sus autores y a las instituciones correspondientes; al compartir el contenido, basta con citar la fuente.
CyberBOT: Hacia una educación confiable en ciberseguridad mediante la generación aumentada de recuperación basada en ontologías
Created by
Haebom
Autor
Chengshuai Zhao, Riccardo De Maria, Tharindu Kumarage, Kumar Satvik Chaudhary, Garima Agrawal, Yiwen Li, Jongchan Park, Yuli Deng, Ying-Chih Chen, Huan Liu
Describir
Este artículo presenta CyberBOT, un chatbot de preguntas y respuestas que proporciona información fiable y relevante para la formación en ciberseguridad. CyberBOT utiliza un flujo de generación aumentada por búsqueda (RAG) para integrar información contextual de los materiales del curso y validar las respuestas mediante una ontología de ciberseguridad específica del dominio. Esta ontología actúa como una capa de inferencia estructurada que restringe y valida las respuestas generadas por el LLM, reduciendo el riesgo de instrucciones engañosas o inseguras. CyberBOT se ha implementado en un amplio curso de posgrado en la Universidad Estatal de Arizona (ASU), con más de 100 estudiantes que utilizan activamente la plataforma web. Las evaluaciones computacionales en un entorno de laboratorio demuestran el potencial de CyberBOT, y futuros estudios de campo evaluarán su impacto educativo.
Takeaways, Limitations
•
Takeaways:
◦
Presentando la posibilidad de desarrollar un sistema confiable de preguntas y respuestas basado en IA especializado para la educación en ciberseguridad.
◦
Mejora de la seguridad y precisión de LLM mediante la integración de la canalización RAG y ontologías específicas del dominio.
◦
Implementación exitosa en un entorno de clase universitaria real y presentación de casos de uso activos por parte de los estudiantes.
◦
Presentar una dirección para desarrollar aplicaciones de IA confiables y alineadas con el currículo en la educación profesional a través de la integración del razonamiento de dominio estructurado y las capacidades de IA generativa.
•
Limitations:
◦
Hasta el momento, sólo se han presentado resultados de evaluación computacional de entornos de laboratorio y no existen estudios de campo reales sobre la eficacia educativa.
◦
La necesidad de verificación y gestión continua de la integridad y precisión de la ontología.
◦
Se necesitan más investigaciones para determinar la aplicabilidad y generalización de estos hallazgos a diversos cursos de capacitación en ciberseguridad.
