Murakkab es un sistema de servicio eficiente en el uso de recursos para flujos de trabajo basados en agentes. Los marcos existentes integran estrechamente la lógica del agente con la selección de modelos y hardware, exponiendo los flujos de trabajo como secuencias opacas de llamadas a modelos y herramientas, lo que genera ineficiencias. Murakkab introduce una abstracción declarativa que separa las especificaciones del flujo de trabajo de la configuración de la ejecución. Un optimizador basado en perfiles y un entorno de ejecución adaptativo gestionan toda la pila, incluyendo la orquestación de los componentes del flujo de trabajo, la asignación a modelos y hardware, y la reconfiguración dinámica para cumplir con los objetivos de nivel de servicio (SLO) definidos por el usuario. Al exponer la estructura interna de los flujos de trabajo de los agentes, permite optimizaciones entre capas que los marcos y programadores en la nube existentes no pueden lograr. Las evaluaciones de diversos flujos de trabajo han demostrado que Murakkab reduce el uso de la GPU hasta 2,8 veces, el consumo de energía 3,7 veces y los costes 4,3 veces, manteniendo al mismo tiempo los SLO.
