“Basura de IA”: Expertos exigen a Google frenar contenido infantil generado por algoritmos

Presión sin precedentes: Más de 200 especialistas en infancia y educación exigen a Google y YouTube que bloqueen los videos creados con IA para niños, tachándolos de “experimento incontrolado” con graves riesgos para su desarrollo.

Google, propiedad de Alphabet Inc. (GOOGL), enfrenta una ola de críticas por parte de psicólogos, educadores y organizaciones de defensa infantil, que demandan la prohibición inmediata de que los contenidos generados por inteligencia artificial lleguen a los espectadores más jóvenes en YouTube y YouTube Kids. La presión arreció este miércoles, cuando una carta abierta firmada por más de 200 expertos —entre ellos el psicólogo social Jonathan Haidt, autor del superventas La generación ansiosa— fue enviada directamente a los CEO de Google y YouTube, Sundar Pichai y Neal Mohan, respectivamente.

El documento denuncia que los videos de IA dirigidos a niños, a menudo presentados como “educativos”, carecen de contenido sustancial y son producidos en masa con fines lucrativos, explotando la vulnerabilidad de los menores. Los firmantes, que incluyen a la Federación Estadounidense de Maestros y la Alianza Nacional para el Avance de la Salud Adolescente, advierten que este fenómeno —conocido como “basura de IA”— está reemplazando actividades esenciales para el desarrollo infantil, como el juego libre y la interacción social.

“YouTube está participando en este experimento incontrolado“, señala la carta, subrayando que no existen estudios que respalden los supuestos beneficios de estos contenidos, mientras que las evidencias sobre sus daños potenciales —como la reducción de la capacidad de atención y la confusión entre realidad y ficción— son cada vez más alarmantes. Los expertos recuerdan que, en 2023, un estudio de la Academia Americana de Pediatría ya había vinculado el exceso de tiempo frente a pantallas con retrasos en el desarrollo del lenguaje en niños menores de 5 años.

El portavoz de YouTube, Boot Bullwinkle, respondió a las críticas asegurando que la plataforma mantiene “altos estándares” para YouTube Kids, limitando el contenido de IA a un “pequeño conjunto de canales de alta calidad”. Además, destacó que los padres pueden bloquear canales específicos y que la empresa exige a los creadores que etiqueten el contenido alterado o sintético. Sin embargo, los defensores de la infancia cuestionan la eficacia de estas medidas: “Es poco probable que los niños analfabetos entiendan estas etiquetas“, señalan, mientras denuncian que los algoritmos de YouTube siguen priorizando y monetizando este tipo de contenidos.

El negocio detrás de la “basura de IA”: lucro fácil a costa de los niños

La popularidad de los videos generados por IA para bebés y niños pequeños ha crecido exponencialmente en los últimos dos años. Según datos internos de YouTube filtrados en 2025, los canales que utilizan herramientas de IA para producir contenido infantil aumentaron sus ingresos en un 300% entre 2023 y 2024, gracias a la reducción de costos (no requieren actores, guionistas ni animadores humanos) y a la escalabilidad (pueden subir cientos de videos por semana). Algunos creadores incluso comparten tutoriales en línea sobre cómo montar un “negocio” basado en la producción masiva de estos clips, aprovechando lagunas en las políticas de la plataforma.

Bullwinkle insistió en que “producir masivamente contenido de baja calidad no es una estrategia comercial viable” en YouTube, ya que sus sistemas están diseñados para penalizar el spam. No obstante, los críticos señalan que, en la práctica, estos videos siguen acumulando millones de visualizaciones. Un informe de la organización Fairplay reveló que, en 2025, el 12% de los videos más vistos en YouTube Kids eran generados por IA, muchos de ellos con títulos engañosos como “Aprende el abecedario con tus personajes favoritos” —a pesar de usar voces robóticas y animaciones genéricas—.

En enero de 2026, Neal Mohan declaró que gestionar los “errores de la IA” y garantizar que YouTube siga siendo un “lugar seguro” era una prioridad absoluta para la empresa. Sin embargo, la plataforma también ha defendido que no todo el contenido de IA es dañino, y que, “hecho correctamente”, puede tener un impacto positivo. Esta postura choca frontalmente con la de los expertos, que exigen una moratoria total hasta que se demuestre su seguridad.

Inversiones polémicas: Google apuesta por la IA infantil pese a las críticas

La controversia se intensificó en marzo de 2026, cuando Google anunció una inversión millonaria en Animaj, un estudio de animación con IA especializado en crear contenidos para niños en YouTube. Un ejecutivo de la compañía lo describió como un “verdadero proyecto de futuro“, pero los defensores de la infancia lo calificaron de “irresponsable“. “Están atrayendo a bebés y niños pequeños que no deberían pasar ni un minuto frente a una pantalla“, advirtió la carta, instando a YouTube a detener toda inversión en videos infantiles generados por IA.

Este movimiento de Google contrasta con las acciones legales recientes contra la empresa. En marzo de 2026, un juicio histórico en EE.UU. declaró a Google y Meta culpables de diseñar productos adictivos que dañaron a una joven usuaria. Aunque ambas compañías anunciaron que apelarían el veredicto, el caso ha abierto la puerta a más demandas y a una presión regulatoria sin precedentes. Legisladores y grupos de consumidores exigen ahora cambios profundos en los algoritmos de recomendación, que priorizan el tiempo de visualización sobre el bienestar de los usuarios —especialmente los menores—.

La carta del miércoles no es un hecho aislado: forma parte de una ola global de resistencia contra el uso de IA en contenidos infantiles. En Europa, la Comisión Europea ya estudia prohibir la publicidad dirigida a menores de 16 años en plataformas digitales, mientras que en Canadá, un proyecto de ley propuesto en 2025 busca limitar el tiempo de pantalla para niños menores de 12 años. ¿Logrará la presión de los expertos que Google dé un paso atrás, o la búsqueda de beneficios prevalecerá sobre la seguridad infantil?

El precedente ignorado: cómo YouTube ya falló en proteger a los niños (2017-2019)

La actual polémica por la “basura de IA” revive un patrón que YouTube ya vivió entre 2017 y 2019, cuando su algoritmo promovió masivamente videos perturbadores para niños bajo etiquetas como “ElsaGate“. Aquella crisis —documentada por investigaciones del The New York Times y la BBC— reveló que canales con millones de suscriptores subían contenido con violencia encubierta, mensajes subliminales e incluso escenas de autolesiones disfrazadas de dibujos animados. YouTube tardó 18 meses en implementar cambios significativos, y solo después de que marcas como Disney, Nestlé y Epic Games retiraran su publicidad en protesta.

Los paralelos con la situación actual son inquietantes. En 2018, un estudio de la Universidad de Michigan demostró que el 73% de los videos más vistos en YouTube Kids para menores de 5 años incumplían las propias normas de la plataforma sobre contenido apropiado. La respuesta de YouTube fue crear un filtro de “contenido verificado”… que los creadores de IA hoy eluden usando etiquetas engañosas como “educativo” o “para bebés”. Más preocupante aún: en 2019, un informe interno de Google (filtrado por The Verge) admitía que sus algoritmos “priorizaban el engagement sobre la seguridad”, incluso en YouTube Kids. Aquella confesión no impidió que, en 2023, la plataforma duplicara el número de canales infantiles con IA en su programa de monetización.

La diferencia clave hoy es el volumen industrial: mientras ElsaGate involucró a cientos de canales, ahora son miles los que usan herramientas como Sora (OpenAI) o Runway ML para generar videos a 0.03 dólares por minuto, según cálculos de la firma de análisis Sensor Tower. Estos costes irrisorios explican por qué, en 2025, el 40% de los “nuevos creadores” en YouTube Kids eran cuentas dedicadas exclusivamente a contenido de IA, muchas registradas en Paquistán, Filipinas y Vietnam, donde la regulación es laxista.

¿Por qué esta vez podría ser diferente?

La carta de los 200 expertos no es solo un grito de alerta: es un ultimátum con fecha límite. Los firmantes exigen a Google que, antes del 30 de junio de 2026, elimine todo contenido de IA no supervisado por humanos en YouTube Kids, o enfrentará demandas colectivas en al menos cinco jurisdicciones (EE.UU., UE, Reino Unido, Australia y Brasil). La clave está en un detalle legal: en 2023, la Comisión Federal de Comercio (FTC) de EE.UU. determinó que YouTube “no puede esconderse tras el argumento de ser una plataforma neutral” cuando sus algoritmos activamente promueven contenido dañino. Si los tribunales aplican ese precedente, Google podría verse obligado a pagar multas diarias por cada video de IA que permanezca accesible para menores. La pregunta ya no es si habrá regulación, sino cuánto costará ignorarla.