Este artículo presenta VolleyBots, un banco de pruebas deportivo robótico donde múltiples drones cooperan y compiten en un partido de voleibol. VolleyBots es una plataforma que integra tres características: juego competitivo y cooperativo, interacción por turnos y maniobras ágiles en 3D. Los drones se enfrentan al reto de coordinarse con sus compañeros y anticipar y responder a las tácticas del equipo contrario. La interacción por turnos requiere precisión en la sincronización, predicción precisa de estados y gestión de dependencias temporales a largo plazo, mientras que las maniobras ágiles en 3D requieren aceleración rápida, giros cerrados y posicionamiento 3D preciso, a pesar de la falta de tracción cuadricóptero. En este artículo, presentamos un conjunto completo de tareas que abarcan desde el entrenamiento con un solo dron hasta tareas de cooperación y competición con varios drones, y una evaluación de referencia de algoritmos representativos de aprendizaje por refuerzo multiagente (MARL) y teoría de juegos. Los resultados de la simulación muestran que los métodos de aprendizaje por refuerzo (RL) basados en políticas superan a los métodos basados en políticas en tareas con un solo agente, pero ambos métodos presentan dificultades en tareas complejas que combinan control motor y juego estratégico. También diseñamos una política jerárquica que logra una tasa de victorias del 69,5 % sobre la línea de base más fuerte en una tarea 3v3, destacando su potencial como una solución eficaz para abordar interacciones complejas entre el control de bajo nivel y la estrategia de alto nivel.