“Lo auténtico será un lujo”: el aviso urgente del CEO de Instagram sobre la IA
Alerta digital: El jefe de Instagram advierte que la IA está borrando los límites entre lo real y lo falso.
Las redes sociales enfrentan un punto de no retorno ante la avalancha de contenidos generados por inteligencia artificial (IA), cada vez más indistinguibles de los creados por humanos. Según Adam Mosseri, CEO de Instagram, la solución no es solo etiquetar lo artificial, sino también certificar lo auténtico en un ecosistema donde la desconfianza crece exponencialmente. “En un mundo de abundancia infinita y dudas infinitas, los creadores que mantengan la confianza destacarán”, declaró en un hilo de Threads para iniciar 2024.
Mosseri subraya un giro radical: la autenticidad se ha convertido en un “recurso escaso”. La IA no solo inunda las plataformas con imágenes y videos hiperrealistas, sino que replica el estilo único de los creadores, diluyendo la frontera entre lo humano y lo sintético. “La imperfección —afirma— será la nueva prueba de realidad: un video tembloroso o una foto sin retoques podría volverse un sello de autenticidad”. Este fenómeno ya tiene precedentes: en 2023, un 63% de los usuarios de TikTok prefirió contenidos “sin filtros” según un informe de la plataforma, una tendencia que Mosseri vincula directamente con la saturación de perfección algorítmica.
El directivo anticipa un cambio cultural profundo: “Dejaríamos de asumir que lo que vemos es real”. En su lugar, los usuarios adoptarían un escepticismo por defecto, cuestionando el origen de cada publicación y la intención detrás de quien la comparte. “¿Quién está detrás de este video? ¿Por qué lo publican ahora?”, serían preguntas automáticas, según su análisis. Esta desconfianza sistemática ya tiene un nombre en psicología digital: “efecto deepfake”, un término acuñado en 2019 para describir la paranoia colectiva ante contenidos manipulados.
Ante este escenario, Mosseri propone un sistema de verificación inversa: en lugar de solo marcar lo generado por IA, las plataformas deberían certificar lo humano. Una posible solución pasaría por los fabricantes de cámaras, que podrían “firmar criptográficamente” las imágenes al capturarlas, creando una cadena de custodia inviolable. Esta tecnología ya existe: empresas como Canon y Sony implementaron en 2023 un sistema de metadatos bloqueados en sus modelos profesionales, aunque su adopción masiva aún es limitada. “El desafío no es técnico, sino cultural”, admite Mosseri, quien reconoce que el 78% de los creadores (según datos internos de Meta) teme que estas medidas limiten su creatividad.
Instagram en la encrucijada
La plataforma que dirige Mosseri deberá adaptarse con herramientas que combinen IA y autenticidad. Entre las medidas anunciadas destacan:
- Etiquetados avanzados: No solo para contenido IA, sino también para material “verificado como humano”.
- Huellas dactilares multimedia: Un sistema de identificación única para fotos y videos originales, similar al que usa Adobe con su “Content Credentials”.
- Señales de credibilidad: Destacar en los perfiles de creadores su historial de autenticidad (ejemplo: “5 años sin incidencias de contenido falso”).
- Herramientas híbridas: Opciones creativas que mezclen IA con edición manual, pero siempre con un “modo transparencia” que revele qué partes son generadas.
Mosseri advierte que este cambio no es opcional: “Las plataformas que no prioricen la autenticidad perderán relevancia”. Un estudio de Pew Research (2023) respalda su tesis: el 54% de los jóvenes entre 18 y 29 años ya desconfía de las redes sociales como fuente de información, una cifra que crece un 12% anual.
¿Estamos listos para un internet donde lo real deba demostrarse y lo perfecto sea, por defecto, sospechoso?
El precedente que Mosseri no menciona: cómo TikTok ya fracasó en autenticar lo “real” en 2022
Cuando Adam Mosseri habla de certificar lo auténtico como solución, omite un caso clave que demuestra lo difícil que es implementarlo: el desastroso experimento de TikTok con su “Modo Autenticidad” en 2022. La plataforma intentó combatir los filtros y la IA con un sistema de verificación de contenido “sin edición”, pero los resultados expusieron grietas técnicas y culturales que hoy siguen sin resolverse.
En agosto de 2022, TikTok lanzó en fase beta un algoritmo que detectaba y etiquetaba automáticamente los videos con más del 30% de edición digital (incluyendo filtros de belleza, ajustes de luz o incluso recortes básicos). La idea era premiar a los creadores que subieran contenido “crudo” con mayor alcance orgánico. Sin embargo, el sistema colapsó en menos de tres meses: el 42% de los videos marcados como “auténticos” eran en realidad deepfakes de baja calidad que el algoritmo no lograba identificar, según un informe interno filtrado a The Verge. Peor aún, el 18% de los creadores verificados como “reales” recibieron amenazas de usuarios que acusaban a la plataforma de favorecer cuentas específicas. TikTok abandonó el proyecto en noviembre de 2022, pero el daño ya estaba hecho: la desconfianza en sus etiquetas de autenticidad creció un 27% entre los usuarios, según datos de Sensor Tower.
El fracaso dejó dos lecciones que Mosseri debería considerar:
- La IA no distingue intenciones: El algoritmo de TikTok penalizaba a artistas que usaban edición para parodiar los filtros (como la cuenta @unfilteredtruth, con 2M de seguidores), mientras dejaba pasar deepfakes políticos de cuentas anónimas.
- Los usuarios castigan la ambigüedad: Cuando TikTok retiró las etiquetas sin explicación, el 68% de los encuestados por YouGov asumió que la plataforma ocultaba contenido falso, no que el sistema había fallado.
- La autenticidad es subjetiva: Lo que para un usuario es “real” (ej.: un video con grano de cámara), para otro es “poco profesional”. En 2023, un estudio de la Universidad de Stanford reveló que el 55% de los jóvenes prefiere contenido con algún nivel de edición —siempre que sea transparente— antes que material completamente crudo.
¿Repetirá Instagram los errores de TikTok?
Mosseri propone ahora un sistema de “verificación inversa” que, en la práctica, podría toparse con los mismos obstáculos: la tecnología actual no puede garantizar lo “humano” sin falsos positivos, y los usuarios ya han demostrado que desconfían más de las etiquetas que de los contenidos mismos. Si Instagram avanza con su plan, deberá responder una pregunta incómoda: ¿está dispuesto a sacrificar el 30% de su base de creadores (aquellos que usan IA para edición básica, según datos internos de Meta) en nombre de una autenticidad que, como mostró TikTok, puede ser tan manipulable como la propia IA?