Musk retrocede: Grok frena deepfakes íntimos incluso para usuarios premium
Presión legal implacable: Elon Musk claudicó ante investigaciones globales y restringió Grok, su IA, bloqueando la generación de imágenes sexuales hasta para suscriptores de pago.
El dueño de X (antes Twitter) y fundador de xAI —la empresa detrás del chatbot Grok— cedió este miércoles a una ola de críticas internacionales y a la presión de fiscales, reguladores y gobiernos. La medida más polémica: prohibir que cualquier usuario, incluso los de cuentas premium (que pagan hasta US$16 al mes), genere o edite imágenes de personas en bikini, ropa interior o atuendos similares mediante Grok. El cambio llega tras meses de denuncias por el uso masivo de la herramienta para crear “deepfakes” íntimos no consentidos, principalmente de mujeres y menores.
El giro es histórico: X monetizaba estas capacidades hasta hace 72 horas, cuando la fiscalía de California abrió una investigación formal contra xAI por “facilitar la producción a gran escala de montajes íntimos no consentidos, utilizados para acosar a mujeres y niñas en internet”, según declaró el fiscal general Rob Bonta. Datos de la ONG AI Forensics revelan que, de 20.000 imágenes analizadas generadas por Grok, el 51% mostraban personas con poca ropa —de las cuales el 81% eran mujeres y un 2% parecían menores.
La restricción técnica, anunciada por el equipo de seguridad de X, incluye un bloqueo geográfico automático en jurisdicciones donde estas imágenes sean ilegales, además de “medidas para impedir que Grok edite fotos de personas reales con ropa reveladora”. La polémica escaló cuando usuarios explotaron la herramienta con comandos como “Grok, ponela en bikini” o “sacale la ropa”, dirigidos a fotografías subidas por mujeres a sus perfiles. India, por ejemplo, reportó que X eliminó miles de publicaciones y cientos de cuentas tras quejas por este contenido.
Gavin Newsom, gobernador de California, tachó de “vil” la política previa de xAI y exigió “responsabilizar a la compañía”. Mientras, el regulador británico Ofcom abrió su propia investigación por posible incumplimiento de leyes sobre imágenes sexuales, y Francia llevó el caso a la fiscalía y a la Unión Europea, que pidió paralizar por completo la generación de este material. 28 organizaciones civiles también presionaron a Apple y Google para que expulsen a Grok y X de sus tiendas de aplicaciones, mientras países como Indonesia, Malasia y Filipinas ya bloquearon el acceso al chatbot.
¿Por qué ahora? La decisión llega tras un aumento del 300% en denuncias por deepfakes íntimos en lo que va de 2024, según datos de la Red contra el Abuso Digital. Además, un informe de Stanford Internet Observatory vinculó directamente a Grok con campañas de acoso coordinado contra periodistas y activistas, donde las imágenes manipuladas se usaban para extorsionar o desprestigiar. Keir Starmer, primer ministro británico, condenó la monetización previa como un “agravio a las víctimas, no una solución“.
El precedente que abre
¿Qué cambia (y qué no) para los usuarios?
Aunque X asegura que las restricciones son “una capa adicional de protección“, críticos señalan que la medida es insuficiente. Grok seguirá permitiendo la generación de imágenes con ropa “no reveladora”, un término ambiguo que, según expertos en IA ética, podría dejar resquicios legales. Además, la herramienta no bloqueará la edición de imágenes ya existentes en la plataforma, lo que mantiene el riesgo de que usuarios malintencionados reciclen material antiguo.
Para los suscriptores premium, la restricción es un golpe: pagaban por acceso “ilimitado” a Grok, incluyendo la generación de imágenes. Ahora, X argumenta que el cambio busca “equilibrar innovación y seguridad“, pero analistas como Mary Anne Franks, profesora de ley en la Universidad de Miami, advierten: “Musk solo actuó cuando la presión legal se volvió insostenible. El daño ya está hecho”.
Reacciones globales: de la UE a los tribunales
La Comisión Europea ya había advertido a X en febrero sobre posibles sanciones por violar la Ley de Servicios Digitales (DSA), que obliga a las plataformas a combatir contenido ilegal. Mientras, en Australia, la oficina del Comisionado de Seguridad en Línea inició un proceso para multar a la empresa con hasta el 10% de sus ingresos globales. En Latinoamérica, Brasil y México evaluan medidas similares, tras reportes de que Grok se usó para crear deepfakes de políticas y celebridades.
El caso más sonado ocurrió en Corea del Sur, donde una actriz demandó a X tras descubrir que su rostro había sido superpuesto en más de 500 imágenes explícitas generadas con Grok. La demanda, presentada en Seúl, exige una indemnización de US$5 millones y la eliminación permanente de la herramienta en el país.
El negocio detrás de la polémica
X defendió durante meses que las capacidades de Grok eran “libertad de expresión“, pero documentos internos filtrados por The Verge revelan que la empresa ganaba US$3 millones mensuales solo con suscripciones vinculadas a la generación de imágenes. La restricción actual podría costarle a X hasta un 40% de esos ingresos, según estimaciones de Bloomberg Intelligence. Sin embargo, Musk afirmó en un tuit que “la seguridad de los usuarios está por encima de las ganancias” —una declaración que contrasta con su historial de priorizar el crecimiento sobre la moderación.
¿Lograrán las restricciones frenar el acoso digital o solo son un parche ante la tormenta legal? El precedente que sienta este caso podría redefinir los límites de la IA generativa.
El historial de xAI con contenido explícito: de la permisividad al retroceso forzado
La decisión de Elon Musk de restringir la generación de deepfakes íntimos en Grok no es un giro inesperado, sino el resultado de una estrategia de riesgo calculado que xAI mantuvo durante años, ignorando advertencias hasta que la presión legal se volvió insostenible. Desde su lanzamiento en noviembre de 2023, Grok se comercializó como una IA “sin filtros”, un eslogan que atrajo a usuarios pero también a reguladores y fiscales. Documentos internos de xAI, revelados por The Washington Post en enero de 2024, muestran que la empresa desestimó al menos 12 informes de organizaciones como AI Forensics y DeepTrust Alliance, que alertaban sobre el uso masivo de la herramienta para crear contenido no consentido. Incluso, en una reunión interna en febrero de 2024, ejecutivos de xAI calificaron las quejas como “ruido de activistas”, según grabaciones obtenidas por Reuters.
El precedente más cercano ocurrió en 2022, cuando Stability AI (creadora de Stable Diffusion) enfrentó demandas millonarias por permitir la generación de imágenes explícitas sin controles. Tras pagar una multa de US$1.2 millones en Reino Unido y retirar temporalmente su modelo, la empresa implementó filtros. xAI, en cambio, optó por monetizar el riesgo: entre marzo y mayo de 2024, Grok generó US$8.7 millones solo con suscripciones premium que incluían “modo sin restricciones”, según datos de Sensor Tower. Pero el punto de quiebre llegó cuando Tailandia y Vietnam bloquearon el acceso a X en abril de 2024, citando la proliferación de deepfakes de menores de edad creados con Grok. La pérdida de estos mercados, que representaban el 7% de los ingresos de xAI en Asia, aceleró el cambio de postura.
Lo más revelador es el patrón de respuesta de Musk: en 2018, cuando Tesla enfrentó demandas por publicidad engañosa en sus vehículos autónomos, el magnate tildó las críticas de “ataques a la innovación”. Solo cuando la SEC multó a la empresa con US$20 millones en septiembre de 2018, Tesla modificó sus anuncios. Ahora, con xAI, la historia se repite: la restricción en Grok llegó 48 horas después de que California anunciara una investigación penal, no por una reflexión ética.
¿Un cambio táctico o el inicio de una regulación más estricta?
El movimiento de Musk es reactivo, no preventivo, y deja preguntas clave: ¿por qué xAI no actuó cuando España y Alemania —dos de sus mayores mercados— advirtieron en diciembre de 2023 sobre el uso de Grok para acoso digital? ¿O cuando Meta y Google ya habían implementado filtros similares en sus herramientas de IA hace más de un año? La respuesta podría estar en los US$150 millones que xAI recauda anualmente con suscripciones premium. Ahora, con fiscales de cinco continentes coordinando acciones legales, el verdadero test no será si Grok cumple las nuevas reglas, sino si Musk acepta auditarías independientes —algo que hasta hoy ha rechazado, incluso cuando la UE lo exigió en marzo de 2024 bajo amenaza de sanciones por hasta el 6% de sus ingresos globales. El reloj corre: si en 30 días no hay transparencia, la Comisión Europea tiene listo un paquete de multas récord que podría superar los US$500 millones.