Este artículo argumenta que, a pesar de la creencia generalizada en la inminencia de la inteligencia artificial general (IAG) o la IA sobrehumana, problemas complejos en campos especializados siguen sin resolverse. Los autores argumentan que estos problemas requieren la colaboración entre humanos y la IA, y que el estado actual del arte en IA generativa no puede servir como un aliado confiable debido a varias deficiencias, incluyendo dificultades para rastrear artefactos de solución complejos (p. ej., programas de software), soporte limitado para diversas representaciones de preferencias humanas y falta de adaptación a las preferencias humanas en entornos de interacción. Para abordar estos desafíos, los autores proponen un novedoso marco de co-construcción entre humanos y IA, HAICo2, presentan los primeros pasos hacia la formalización de HAICo2 y discuten los complejos problemas de investigación abiertos que enfrenta HAICo2.