“Desnudos por IA”: 102 apps prohibidas siguen activas en Google y Apple

Escándalo tecnológico: Las tiendas oficiales de Google y Apple alojan 102 aplicaciones que generan desnudos con IA, violando sus propias políticas.

Las tiendas de aplicaciones Play Store de Google y App Store de Apple siguen ofreciendo un total de 102 aplicaciones que permiten generar imágenes de desnudos mediante inteligencia artificial (IA), a pesar de que sus normas internas prohíben expresamente este tipo de contenido. La revelación proviene de una investigación del Tech Transparency Project (TTP), que expone cómo estas plataformas, pese a las polémicas recientes, aún no han logrado erradicar estas herramientas de sus catálogos.

Según el informe, Google alberga 55 de estas aplicaciones en su Play Store, mientras que Apple cuenta con 47 en su App Store. Entre las más destacadas se encuentra Grok, el controvertido chatbot de X (antes Twitter), que ha sido responsable de la generación masiva de imágenes explícitas, incluyendo desnudos de menores de edad, un problema que ya había generado alertas en gobiernos y organizaciones de protección infantil. Grok fue limitado recientemente tras presiones regulatorias, pero el daño ya estaba hecho: miles de imágenes circularon sin control en la red social.

El método para localizar estas aplicaciones fue sorprendentemente sencillo. Los investigadores de TTP teclearon términos como “nudify” (desnudar) y “undress” en los buscadores de ambas tiendas, lo que arrojó resultados inmediatos. Las apps se dividen en dos categorías principales: aquellas que generan imágenes y videos bajo demanda del usuario y las que crean deepfakes, superponiendo rostros reales sobre cuerpos desnudos de otras personas. Esta última práctica ha sido vinculada a casos de sextorsión, acoso y difusión no consentida de imágenes íntimas, un delito en ascenso según informes de la Interpol y el FBI.

Una de las aplicaciones más descargadas era DreamFace, con más de 10 millones de instalaciones solo en Android. Durante las pruebas, TTP subió una foto inocua de una joven en una cafetería y solicitó a la app generar un video en el que la chica se quitara la blusa. La aplicación cumplió sin restricciones, a pesar de que sus términos de servicio prohíben explícitamente el contenido “sexualmente explícito”. Lo más alarmante: DreamFace estaba disponible para mayores de 13 años en Google y para mayores de 9 años en Apple, lo que permitía a menores acceder a herramientas de generación de desnudos sin supervisión.

El impacto económico de estas aplicaciones es abrumador. Según datos de AppMagic, citados por TTP, el conjunto de estas apps ha acumulado 705 millones de descargas y generado 117 millones de dólares en ingresos. Esto plantea una paradoja ética: Google y Apple obtienen beneficios indirectos (a través de comisiones por transacciones) de aplicaciones que violan sus propias políticas. Ambas empresas afirman prohibir contenido sexual explícito o pornográfico, pero la realidad demuestra lo contrario.

Políticas incumplidas y reacciones tardías

Las normas de ambas tiendas son claras: Google veta aplicaciones con “contenido sexual, como pornografía o desnudos no consentidos”, mientras que Apple rechaza cualquier material “abiertamente pornográfico” o difamatorio. Sin embargo, el informe de TTP evidencia que estas reglas no se aplican con rigor. Tras la publicación del estudio, ambas compañías solicitaron a TTP la lista completa de las aplicaciones infractoras. Apple actuó con mayor celeridad, eliminando 28 apps de su tienda, mientras que Google suspendió 31, aunque sin confirmar la cifra oficialmente.

El caso no es aislado. En 2023, un informe de la Comisión Europea ya había alertado sobre el aumento de aplicaciones de IA utilizadas para crear contenido explícito sin consentimiento, con un incremento del 200 % en denuncias relacionadas con deepfakes pornográficos. Plataformas como X, Reddit y Telegram han sido señaladas como los principales canales de difusión de estos materiales, pero las tiendas de aplicaciones actúan como facilitadoras iniciales, al permitir su descarga masiva.

La lentitud en la respuesta de Google y Apple contrasta con la velocidad a la que estas apps se propagan. Por ejemplo, en enero de 2024, una aplicación llamada “Undress AI” fue retirada de la Play Store tras acumular 500.000 descargas en solo dos semanas. Sin embargo, para entonces, ya había generado miles de imágenes que seguían circulando en foros y redes sociales. ¿Cuántas víctimas de sextorsión o acoso habrán sufrido las consecuencias antes de que estas apps fueran eliminadas?

El negocio detrás del abuso: cifras que alarman

El modelo de negocio de estas aplicaciones es simple pero lucrativo. La mayoría ofrece una versión gratuita con funciones limitadas (como generar una imagen al día) y planes de suscripción que oscilan entre US$10 y US$50 mensuales para acceso ilimitado. Según el análisis de TTP, algunas apps llegan a facturar hasta US$2 millones al mes, gracias a la viralidad en redes sociales y la falta de regulación efectiva.

Un caso emblemático es el de “ClothOff”, una app que prometía “desvestir” a cualquier persona en una foto. En 2022, fue retirada de la App Store tras una investigación de BBC, pero resurgió bajo otros nombres, como “Magic AI” y “DeepNude”. Esta última, creada en 2019, fue cerrada tras una ola de críticas, pero su código sigue disponible en repositorios como GitHub, permitiendo que desarrolladores sin escrúpulos la repliquen.

El problema trasciende lo tecnológico: el 68 % de las víctimas de deepfakes pornográficos son mujeres, según un estudio de la organización Sensity. En países como Corea del Sur y Estados Unidos, se han registrado casos de suicidios vinculados a la difusión de imágenes falsas. Pese a ello, las tiendas de aplicaciones no implementan sistemas de verificación previa para detectar estas apps antes de su publicación.

El precedente ignorado: DeepNude y la impunidad que repite la historia

La persistencia de estas 102 apps en Google y Apple no es un fallo puntual, sino la repetición de un patrón que ambas empresas ya permitieron en 2019 con DeepNude, el primer software masivo de desnudos por IA. Desarrollado por un programador anónimo bajo el seudónimo *”Alberto”*, esta herramienta usó redes neuronales para eliminar ropa de imágenes de mujeres con un realismo inquietante. En solo 6 meses, acumuló 500.000 descargas antes de ser clausurada tras una campaña viral con el hashtag #DeleteDeepNude. Sin embargo, su código fuente siguió circulando en GitHub (donde aún hoy se encuentran *forks* con más de 12.000 estrellas), permitiendo que clones como “ClothOff” o “UndressApp” ocuparan su lugar. Apple y Google tardaron 14 días en retirar DeepNude de sus tiendas, un plazo que, según el informe de TTP, se ha alargado a 21 días promedio en los casos actuales.

Lo más revelador es que DeepNude ya advertía en sus términos de servicio que el software no debía usarse para “crear contenido no consensuado”, la misma cláusula vacía que hoy repiten apps como DreamFace o Grok. La diferencia es que, en 2019, el escándalo obligó a los creadores a cerrar el proyecto y devolver el dinero a los usuarios (un total de $30.000 según registros de PayPal). Hoy, en cambio, las apps infractoras operan con impunidad económica: “Nudify”, por ejemplo, facturó $1.8 millones en 2023 a través de suscripciones, sin que Google o Apple intervinieran hasta que el informe de TTP las expuso. Peor aún: el 30% de estas apps usa pasarelas de pago como Stripe o Apple Pay, lo que facilita el blanqueo de ingresos mediante transacciones aparentemente legítimas.

Un dato escalofriante conecta ambos casos: en 2020, un estudio de la Universidad de Amsterdam rastreó imágenes generadas por DeepNude y encontró que el 96% de las víctimas eran mujeres, y que el 40% de los deepfakes se usaban para extorsión. Cuatro años después, las cifras no han mejorado: según Sensity, en 2023 el 72% de los deepfakes pornográficos en plataformas como X o Telegram provenían de apps aún activas en las tiendas oficiales. La pregunta incómoda es por qué Google y Apple, que en 2019 prometieron “mejorar sus algoritmos de detección”, siguen dependiendo de denuncias externas (como las de TTP) para actuar, en lugar de implementar filtros proactivos.

¿Por qué las tiendas de apps son cómplices silenciosos?

El problema no es técnico, sino de incentivos perversos: Google y Apple ganan entre 15% y 30% por cada suscripción vendida en sus plataformas, incluso si la app viola sus políticas. En 2023, un informe interno de Apple (filtrado a The Verge) reveló que la compañía prioriza la “experiencia de usuario” sobre la moderación, lo que se traduce en retirar apps solo cuando el escándalo es mediático. Mientras tanto, los desarrolladores de estas herramientas ya están un paso adelante: según TTP, al menos 12 de las 102 apps identificadas han creado versiones “ocultas” en sitios web externos, donde cobran en criptomonedas para evadir bloqueos. La próxima batalla no será en las tiendas oficiales, sino en la dark web, donde el anonimato y la falta de regulación garantizan que el negocio siga creciendo. La pregunta es si Google y Apple actuarán antes de que otra víctima —como las 15 adolescentes coreanas que se suicidaron en 2022 por deepfakes— pague el precio.