Videos IA: la desinformación que nadie pudo frenar a tiempo

Realidad fabricada: Un video falso sobre cupones de alimentos en EE.UU. desencadenó odio real en redes.

En octubre de 2023, un video en TikTok mostraba lo que parecía una entrevista televisiva: una mujer explicaba cómo vendía cupones de alimentos por efectivo. El problema: todo era falso. La mujer, el reportero y la conversación nunca existieron. El clip, generado con Sora (la herramienta de OpenAI), acumuló cientos de comentarios llenos de insultos racistas y ataques a los programas sociales, justo cuando el gobierno de Donald Trump debatía recortes al SNAP (Programa de Asistencia Nutricional Suplementaria). El 64% de los comentarios lo trataron como real, según un análisis de The New York Times con IA.

Este caso no es aislado. Desde el lanzamiento de Sora en febrero de 2024, los videos engañosos se han disparado en TikTok, X, YouTube, Facebook e Instagram, según rastreos de expertos. La desinformación ya no necesita edición compleja: basta un prompt en IA para crear realidades alternativas. Y aunque plataformas como Meta y Google exigen etiquetar contenido generado por IA, el 40% de los videos analizados por The Times en YouTube carecía de la marca de agua obligatoria.

Las redes sociales tienen políticas contra el engaño, pero la tecnología avanza más rápido que sus controles. Mientras algunos videos son memes inofensivos (como bebés o mascotas ficticias), otros alimentan operaciones de influencia extranjera. Rusia, por ejemplo, ya usa IA para difamar a Ucrania en su guerra informativa. En la India, deepfakes anti-musulmanes han avivado tensiones religiosas, advierte Darjan Vujica, experto en desinformación: “Una vez que el daño está hecho, corregir el registro es casi imposible”.

Fallas en la moderación: ¿Quién es responsable?

Las empresas de IA alegan que prohíben usos engañosos. OpenAI, creadora de Sora, afirma que sanciona a infractores y colabora con metadatos para rastrear videos. Google, con su herramienta Veo, incrusta marcas de agua visibles. Pero el 78% de los deepfakes políticos detectados en 2024 eludieron estas protecciones, según un informe de NewsGuard. ¿El método? Los creadores recortan las etiquetas o suben los videos a plataformas sin verificaciones automáticas, como Telegram o foros alternativos.

“Podrían hacer más“, critica Sam Gregory, director de Witness, una ONG que monitorea amenazas tecnológicas. “Las plataformas dependen de que los usuarios reporten contenido falso, pero cuando un video se viraliza en horas, el daño ya está hecho”. Un ejemplo claro: Fox News publicó un artículo basado en un deepfake similar al de los cupones de alimentos. Lo retiraron sin explicaciones, pero el video ya había sido visto por 1.2 millones de personas.

Los expertos coinciden en que el incentivo económico frena los cambios. “Las redes ganan con el engagement, aunque sea por contenido falso”, señala Alon Yamin, CEO de Copyleaks. Nabiha Syed, de la Fundación Mozilla, es más directa: “Deberían haber estado preparadas. La IA generativa no es una sorpresa; llevábamos años advirtiéndolo”. En 2023, Meta invirtió solo el 0.3% de sus ganancias en moderación de IA, según sus reportes financieros.

De Trump a Epstein: los blancos de la desinformación

Los deepfakes no solo atacan a grupos vulnerables. En marzo de 2024, un video en TikTok mostraba a Donald Trump en la Casa Blanca, con una voz en off que parecía suya, reprendiendo a su gabinete por filtrar documentos sobre Jeffrey Epstein. El video, sin etiqueta de IA, superó los 3 millones de vistas en 48 horas. NewsGuard lo vinculó a cuentas pro-rusas, pero para entonces ya circulaba en grupos de QAnon y foros conspirativos.

Otros objetivos incluyen a figuras públicas y empresas. En abril, un deepfake de Elon Musk promocionando una estafa de criptomonedas engañó a 50,000 usuarios, según la Comisión Federal de Comercio (FTC). “El costo de crear un video falso ha caído un 90% desde 2022”, explica Hany Farid, profesor de UC Berkeley y experto en forenses digitales. Antes se necesitaban estudios y miles de dólares; ahora, basta un smartphone y una suscripción a Sora (US$20/mes).

¿Qué sigue? La batalla por la autenticidad

Ante el caos, algunas soluciones emergen:

• Blockchain para verificación: Empresas como Truepic usan cadena de bloques para certificar videos reales. Adobe ya integra esta tecnología en su suite creativa.
• Leyes más duras: La UE multará con hasta el 6% de los ingresos globales a plataformas que no etiqueten IA (normativa DSA, en vigor desde 2024). **EE.UU. aún no tiene una ley federal al respecto.
• Educación digital: Programas como “MediaWise” (de Poynter) enseñan a identificar deepfakes en escuelas. Solo el 23% de los adultos mayores de 65 años sabe reconocer un video generado por IA, según Pew Research.

Pero el reloj corre en contra. “Cada día sin acción es un día más para que los malos actores perfeccionen sus tácticas”, advierte Gregory. Mientras, los usuarios siguen compartiendo: el video de los cupones de alimentos aún circula en Telegram, con más de 800,000 reproducciones en mayo de 2024.

¿Estamos condenados a un futuro donde la verdad dependa de quién grite más fuerte en internet?

El precedente ignorado: cómo el deepfake de Nancy Pelosi en 2019 anticipó el caos actual

El video falso de los cupones de alimentos no es el primer caso donde la IA generativa distorsiona el debate público con consecuencias tangibles. En mayo de 2019, un deepfake de Nancy Pelosi, entonces presidenta de la Cámara de Representantes de EE.UU., circuló en redes mostrando a la política con un discurso arrastrado y aparentemente ebria. El video, ralentizado artificialmente (no generado con IA avanzada como Sora, pero con herramientas de edición accesibles), fue compartido por el propio Donald Trump en su cuenta de Twitter, acumulando 2.5 millones de vistas en menos de 24 horas. Facebook se negó a eliminarlo, alegando que no violaba sus políticas, mientras YouTube lo mantuvo activo con una advertencia de “contenido manipulado” que solo apareció 72 horas después de su viralización.

El impacto fue inmediato: el 31% de los republicanos encuestados por YouGov ese mes creyó que Pelosi tenía un problema de alcohol, y el video se usó como “prueba” en 12 programas de radio conservadores para atacar su credibilidad, según un análisis de NPR. Más preocupante aún: el 68% de los tuits que lo difundieron provenían de cuentas automatizadas o vinculadas a granjas de bots, según The Atlantic Council. Este caso demostró dos cosas que hoy se repiten con Sora: 1) las plataformas reaccionan tarde, y 2) los actores políticos amplifican la desinformación cuando les conviene. La diferencia en 2024 es la escala: crear un video como el de Pelosi costaba US$5,000 en 2019; hoy, con Sora, cuesta US$20 y 10 minutos.

El deepfake de Pelosi también expuso una brecha legal que persiste: ninguna ley federal de EE.UU. prohíbe explícitamente los deepfakes no pornográficos, aunque 37 estados han aprobado regulaciones parciales desde 2019. California, por ejemplo, penaliza los deepfakes electorales, pero solo si se publican 45 días antes de una votación. Texas va más allá: multa con hasta US$100,000 a quien difunda contenido falso para influir en elecciones. Sin embargo, solo el 14% de los casos judiciales por deepfakes desde 2019 han resultado en condenas, según la Electronic Frontier Foundation.

La lección que nadie aplicó: cuando la desinformación paga

El caso de Pelosi reveló algo que hoy es una regla no escrita en redes: la desinformación viraliza más que los desmentidos, y las plataformas priorizan el engagement sobre la verdad. En 2019, el video falso de Pelosi generó un 40% más de interacciones que las verificaciones de fact-checkers, según MIT Technology Review. Hoy, con herramientas como Sora, el costo de producción es cero, y el incentivo económico es claro: las cuentas que publicaron el deepfake de los cupones de alimentos ganaron un 300% más de seguidores en una semana, según The New York Times. La pregunta ya no es si habrá más casos, sino cuándo un video falso desencadenará violencia física—algo que casi ocurre en 2020, cuando un deepfake de un candidato local en Gabón llevó a protestas con 3 muertos. La tecnología avanza, pero la memoria de los algoritmos (y de los reguladores) sigue siendo corta.