Este artículo argumenta que la rápida expansión de la inteligencia artificial (IA) en las plataformas digitales plantea serias dudas sobre la privacidad, la autonomía y la protección de datos de los jóvenes. Si bien los servicios personalizados basados en IA ofrecen experiencias de usuario mejoradas, a menudo operan sin límites éticos claros, lo que expone a los jóvenes a la explotación de datos y al sesgo algorítmico. Por lo tanto, este artículo aboga por un marco estructural que garantice la protección de la privacidad centrada en los jóvenes, prácticas transparentes en el manejo de datos y la supervisión regulatoria, y presenta un llamado a la acción para una gobernanza ética de la IA. Identifica áreas clave que requieren una intervención urgente, como la transparencia algorítmica, la educación sobre la privacidad, la ética en el intercambio de datos parental y la acción responsable, para empoderar a los jóvenes y que asuman un mayor control de sus identidades digitales, y propone estrategias viables para que los responsables políticos, los desarrolladores de IA y los educadores construyan un ecosistema de IA más justo y responsable.