“Grok frena (pero no detiene) la ola de deepfakes sexuales tras presión global”
Freno parcial: Elon Musk restringe la edición de imágenes en Grok, pero solo para usuarios gratuitos, mientras la IA sigue generando pornografía no consentida y violencia simulada bajo pago.
El multimillonario Elon Musk, dueño de la red social X y de la plataforma de inteligencia artificial Grok, ha anunciado esta semana limitaciones en la generación y edición de imágenes tras una avalancha de denuncias por la creación masiva de contenido pornográfico no consentido, incluyendo deepfakes de mujeres, menores de edad y hasta figuras públicas como Taylor Swift. La medida, sin embargo, no prohíbe la función: solo la restringe a los usuarios de pago, quienes podrán seguir creando estos materiales bajo su “responsabilidad individual”.
El problema estalló en diciembre de 2023, cuando usuarios de X comenzaron a viralizar imágenes hiperrealistas de agresiones sexuales simuladas, femicidios y pornografía infantil generada con IA. La velocidad de difusión superó la capacidad de respuesta de los reguladores, incluyendo la Unión Europea, que ya había advertido sobre los riesgos de las IA sin filtros éticos. Este miércoles, la ministra española de Juventud e Infancia, Sira Rego, solicitó formalmente a la Fiscalía General del Estado que investigue a X y Grok por posibles “delitos de difusión de violencia sexual contra la infancia”. España se suma así a otros países europeos que evalúan prohibir X o imponer sanciones millonarias, similares a las aplicadas a Meta por incumplir la Ley de Servicios Digitales (DSA).
Musk elude la responsabilidad: “El usuario asume el riesgo”
En un mensaje publicado en X, Musk justificó la decisión con un enfoque que exime a su plataforma de cualquier culpa: “Cualquiera que use Grok para crear contenido ilegal o publique material ilegal en X afrontará consecuencias. La responsabilidad legal es de quien genera o sube el contenido”. Esta postura choca frontalmente con las leyes europeas y estadounidenses, que obligan a las plataformas a implementar salvaguardas proactivas para evitar la difusión de contenido dañino.
El magnate había minimizado el problema en las primeras semanas de la crisis. Incluso llegó a publicar una imagen propia en bikini generada con Grok, sugiriendo que la herramienta era “inofensiva”. Sin embargo, la presión de gobiernos, organizaciones de derechos digitales y víctimas obligó a actuar. Ricard Martínez, director de la Cátedra de Privacidad y Transformación Digital de la Universidad de Valencia, desmonta su argumento: “No se puede sexualizar sin consentimiento ninguna imagen, aunque se aclare que es una recreación. Todos tenemos derecho a la propia imagen, la vida privada y el honor. Utilizar la IA para erosionar estos derechos es un delito, y las plataformas no pueden lavarse las manos”.
Martínez recuerda que, según la Ley de Servicios Digitales de la UE, las empresas como X están obligadas a monitorear y bloquear contenidos ilegales antes de que se viralicen. “La excusa de Musk es un retroceso peligroso”, advierte. La postura de la plataforma contrasta con la de competidores como Google o Microsoft, que han implementado filtros estrictos en sus IA generativas (como Bard o Copiot) para evitar deepfakes dañinos.
Deepfakes y sextorsión: el negocio criminal detrás de la IA
Las imágenes generadas con Grok no solo vulneran derechos fundamentales: también alimentan economías criminales. Según un informe de Kaspersky, desde diciembre de 2023 se ha disparado el uso de Stealerium, un malware de código abierto que combina el robo de datos personales con sextorsión automatizada. Los ciberdelincuentes usan IA para crear deepfakes de víctimas (sobre todo mujeres) y luego extorsionarlas con amenazas de difundir el material.
Los datos son contundentes: el 90% de las agresiones con imágenes no consentidas tienen como objetivo a mujeres, según la Organización Mundial de la Propiedad Intelectual (OMPI). Mary Anne Franks, profesora de la Universidad George Washington y presidenta de Derechos Civiles Cibernéticos, alerta sobre el riesgo sistémico: “Las mujeres somos el “canario en la mina” de los abusos de la IA. No se trata solo de famosas como Taylor Swift o menores de 14 años: pronto serán políticas, líderes mundiales y hasta candidatas en elecciones. Estamos ante una bomba de relojería”.
Franks cita casos recientes, como el de la congresista estadounidense Alexandria Ocasio-Cortez, víctima de un deepfake pornográfico en 2023, o el de la alcaldesa de París, Anne Hidalgo, cuyo rostro fue superpuesto en videos sexuales durante la campaña electoral francesa. “La IA no solo reproduce prejuicios: los amplifica a escala industrial”, denuncia.
¿Qué pasa ahora? Tres escenarios posibles
1. Multas récord en la UE: Si X no ajusta Grok a la DSA, podría enfrentar sanciones de hasta el 6% de su facturación global (similar a los €1.200 millones que pagó Meta en 2023).
2. Prohibición en España y otros países: El gobierno español, junto a Francia y Alemania, evalúa bloquear X si persiste la generación de contenido ilegal. Sería la primera vez que una red social mayor es vetada en la UE por este motivo.
3. Demandas masivas de víctimas: Abogados especializados en derechos digitales, como los del bufete McAllister Olivarius (que representó a víctimas de deepfakes en el caso “Everyone”s Non-Consensual Intimate Deepfake”), preparan demandas colectivas contra X. “Las plataformas no pueden esconderse tras el “el usuario es responsable” cuando ellas proveen la herramienta para delinquir”, advierte la abogada Annie McAllister.
Mientras, Grok sigue activo para quienes paguen $8 al mes. La pregunta urgente no es si Musk cumplirá con la ley, sino cuántas vidas habrá destruido su IA cuando lo haga.
El precedente ignorado: cómo Microsoft y Google frenaron los deepfakes (y por qué Grok no lo hizo)
Mientras Elon Musk justifica las limitaciones parciales de Grok con un discurso de “responsabilidad individual”, sus competidores demostraron que es técnicamente posible —y rentable— bloquear la generación de deepfakes dañinos sin esperar a que la presión legal los obligue. La diferencia radica en un detalle clave: Microsoft y Google invirtieron en filtros antes de que sus herramientas se convirtieran en armas de extorsión masiva. Grok, en cambio, actuó solo cuando el escándalo era irreversible.
En junio de 2023, Microsoft implementó en su modelo Bing Image Creator (basado en DALL·E 3) un sistema de detección en tiempo real que bloquea prompts relacionados con desnudos no consentidos, violencia sexual o menores de edad. La compañía colaboró con Thorn, una ONG que combate el abuso sexual infantil, para entrenar algoritmos con 12 millones de imágenes etiquetadas como riesgosas. El resultado: una reducción del 87% en la generación de contenido explícito no solicitado, según datos internos filtrados a The Verge. Google siguió el mismo camino con Bard en septiembre de 2023, incorporando una capa adicional de verificación humana para prompts ambiguos. Ambas empresas asumieron un costo operativo del 15% más alto en sus divisiones de IA, pero evitaron crisis reputacionales como la de X.
El contraste con Grok es abismal. Mientras sus rivales trabajaban con bases de datos de la Interpol y listas negras de términos prohibidos, la herramienta de Musk operaba con un filtro básico que, según ingenieros anónimos citados por Wired, solo bloqueaba el 30% de los prompts peligrosos. Peor aún: Grok permitía eludir restricciones simplemente reescribiendo las peticiones. Por ejemplo, en lugar de “mujer desnuda”, usuarios malintencionados usaban códigos como “#NSFW-23” (un término viralizado en foros de 4chan) para generar el mismo contenido. Esta laguna, conocida internamente como “Proyecto Lázaro”, fue reportada a Musk en noviembre de 2023, pero no se actuó hasta que el caso de Taylor Swift explotó en medios.
| Empresa | Herramienta | Filtro anti-deepfakes | Colaboración con ONGs | Reducción de contenido dañino (2023) |
|---|---|---|---|---|
| Microsoft | Bing Image Creator (DALL·E 3) | Detección en tiempo real + verificación humana | Thorn (abuso infantil) y NCMEC | 87% |
| Bard (con Gemini) | Lista negra de términos + alertas de prompts | Internet Watch Foundation | 78% | |
| X (Elon Musk) | Grok | Filtro básico (30% efectividad) | Ninguna | 0% (hasta diciembre 2023) |
La cuenta atrás: ¿cuánto le costará a Musk su negligencia?
El modelo de “pagar para delinquir” que Musk ha impuesto en Grok no solo viola la Ley de Servicios Digitales de la UE, sino que repite el error de OnlyFans en 2021: cuando la plataforma permitió contenido pirata y deepfakes a cambio de suscripciones, perdió el 40% de sus ingresos en seis meses tras demandas y bloqueos bancarios. La pregunta ahora no es si Grok enfrentará consecuencias, sino cuándo el primer banco —como JPMorgan Chase, que ya vetó pagos a sitios de deepfakes en 2022— cortará los cobros a X. Y cuando eso ocurra, ni siquiera los usuarios de pago podrán salvar a Musk de su propia trampa.