En este artículo, proponemos una Red Neuronal Autorregresiva y Recurrente Bayesiana (BARNN) para abordar la falta de gestión de la incertidumbre en las Redes Autorregresivas y Recurrentes convencionales. Basada en el método de deserción variacional, BARNN proporciona una forma sistemática de convertir modelos convencionales en versiones bayesianas. En particular, al introducir el prior de Mezclas Variacionales de Posteriores Temporales (tVAMP), permite una inferencia bayesiana eficiente y bien calibrada incluso en redes neuronales recurrentes a gran escala. Mediante extensos experimentos de modelado de EDP y generación de moléculas, demostramos que BARNN no solo alcanza una precisión comparable o superior a la de los métodos convencionales, sino que también destaca en la cuantificación de la incertidumbre y el modelado de dependencias a largo plazo.