🚨 Grok, la IA de Musk, **bloqueada** en Asia por deepfakes sexuales
Freno global: Indonesia y Malasia lideran el bloqueo a Grok por generar imágenes sexuales con IA, mientras otros países exigen más controles.
Indonesia y Malasia se convirtieron este fin de semana en los primeros países en restringir el acceso a Grok, la inteligencia artificial de Elon Musk, tras la generación masiva de contenido sexual deepfake sin consentimiento. La medida, adoptada por los reguladores digitales de ambos países, marca un precedente en la lucha contra los abusos de la IA generativa en plataformas abiertas.
El Ministerio de Comunicaciones y Asuntos Digitales de Indonesia decretó una prohibición temporal a Grok el sábado, argumentando la necesidad de “proteger a mujeres, niños y la comunidad” de material pornográfico falso creado con IA. En un comunicado oficial, la ministra Meutya Hafid calificó las prácticas de deepfake no consentidas como una “grave violación de derechos humanos, dignidad y seguridad nacional” en el espacio digital. El gobierno indonesio también exigió a X (antes Twitter) —plataforma donde opera Grok— aclaraciones inmediatas sobre los protocolos para evitar estos contenidos.
Indonesia, con una población de 278 millones de habitantes y una de las legislaciones más estrictas contra la pornografía, ya había bloqueado previamente plataformas como Tumblr y Reddit por contenido explícito. En 2023, el país multó a Meta (Facebook e Instagram) con USD 4.2 millones por no filtrar material inapropiado.
Al día siguiente, Malasia siguió el ejemplo: su Comisión de Comunicaciones y Multimedia (MCMC) anunció restricciones a Grok hasta que xAI LLC —empresa de Musk— implemente “salvaguardas eficaces”. Según el regulador, las respuestas de X Corp. y xAI no abordaron los riesgos inherentes de la herramienta, especialmente en la generación de imágenes que podrían violar leyes locales, como la Ley de Comunicaciones y Multimedia de 1998, que penaliza la distribución de contenido obsceno con multas de hasta USD 50,000 y prisión.
El bloqueo en ambos países llegó 48 horas después de que xAI decidiera restringir —el viernes 12 de abril— la función de generación de imágenes de Grok para la mayoría de usuarios de X. La medida se tomó tras una ola de críticas globales por la creación de imágenes sexualizadas de mujeres y menores, algunas compartidas masivamente en foros como 4chan y Telegram. Ahora, solo los suscriptores de pago pueden acceder a estas funciones, que originalmente eran gratuitas con límites diarios.
Sin embargo, reguladores como los del Reino Unido —donde el primer ministro Rishi Sunak ha impulsado la Ley de Seguridad en Línea— consideraron insuficientes las acciones de xAI. El problema persiste en la aplicación independiente de Grok (fuera de X), que sigue permitiendo generar imágenes sin suscripción, según verificaron medios como BBC y The Verge.
Mientras tanto, India —que había expresado preocupación por el mismo tema— recibió garantías de X de que cumplirá con las normas locales. Según Press Trust of India, citando fuentes gubernamentales, la plataforma ya bloqueó 3,500 contenidos relacionados y eliminó más de 600 cuentas por compartir material obsceno generado por Grok. En 2022, India prohibió apps como TikTok y PUBG por razones de seguridad nacional, sentando un precedente para acciones similares contra IA.
Desde su lanzamiento en noviembre de 2023, Grok ha sido criticada por su falta de filtros robustos, en comparación con competidores como ChatGPT (OpenAI) o Gemini (Google), que limitan estrictamente la generación de contenido sexual. Musk defendió inicialmente la postura de su IA como un ejercicio de “libertad de expresión”, pero la presión de gobiernos y anunciantes —como Disney y IBM, que retiraron publicidad de X— lo obligó a rectificar.
En un mensaje publicado en X, la cuenta oficial de Grok se limitó a pedir disculpas: “Disculpen las molestias. Estamos trabajando para resolver este problema”. Hasta ahora, ni Musk ni xAI han detallado qué cambios técnicos implementarán para evitar nuevos bloqueos.
¿Por qué este caso es un punto de inflexión?
El bloqueo a Grok expone tres conflictos clave en la era de la IA:
- Regulación vs. innovación: Países como Indonesia y Malasia priorizan la protección social sobre el avance tecnológico sin límites. En contraste, EE.UU. y la UE aún debaten cómo regular herramientas como Grok sin ahogar su desarrollo.
- Deepfakes y derechos humanos: La ONU alertó en 2023 que el 96% de los deepfakes sexuales afectan a mujeres, muchas veces usadas para extorsión o daño reputacional. Grok no es la primera IA en enfrentar esto: en 2022, Stable Diffusion fue demandada por generar imágenes de menores.
- El modelo de negocio de X: Musk apuesta por monetizar funciones controvertidas (como la generación de imágenes), pero el riesgo de bloqueos globales podría ahuyentar a inversores. X ya perdió USD 75 millones en ingresos publicitarios en 2023 por polémicas similares.
Mientras Grok lucha por recuperar el acceso en Asia, una pregunta urge: ¿Hasta qué punto la “libertad” de una IA justifica los daños colaterales a millones de usuarios? La respuesta definirá no solo el futuro de xAI, sino el de toda la industria.
El precedente legal que Grok ignora: de Stable Diffusion a la Corte Suprema de Corea del Sur
Mientras Indonesia y Malasia bloquean Grok por deepfakes sexuales, el caso evoca un conflicto legal que xAI parece no haber anticipado: en junio de 2023, la Corte Suprema de Corea del Sur sentenció que los deepfakes pornográficos generados por IA constituyen un delito penal, incluso si las imágenes son ficticias. La decisión, basada en un caso contra un usuario de Stable Diffusion que creó imágenes de menores, estableció que “la intención de dañar y la verosimilitud del contenido” son suficientes para perseguir judicialmente a creadores y plataformas. Corea del Sur, que en 2022 registró un aumento del 1,200% en denuncias por deepfakes según la Agencia Nacional de Policía (KNP), ahora exige a empresas como xAI filtros previos a la generación, no solo después.
El patrón se repite: en abril de 2022, la empresa detrás de Stable Diffusion, Stability AI, enfrentó una demanda colectiva en Reino Unido por permitir la creación de imágenes de abuso sexual infantil (CSAM) con su modelo. Aunque el caso se archivó por jurisdicciones técnicas, reveló una vulnerabilidad que Grok ahora replica: el 87% de los deepfakes sexuales en 2023 usaron modelos de IA de código abierto o con filtros laxos, según el informe “The State of Deepfakes” de Home Security Heroes. La diferencia clave es que, a diferencia de Stable Diffusion —que opera bajo licencia CreativeML Open RAIL-M—, Grok es un producto comercial de xAI LLC, lo que aumenta la responsabilidad legal de Musk.
Otros países asiáticos ya actuaron antes contra IA generativa:
- Japón (2023): Multó a una startup local con ¥100 millones (USD 680,000) por distribuir un modelo que generaba imágenes de sextorsión (chantaje sexual con IA).
- Filipinas (2022): Bloqueó temporalmente DALL·E Mini tras detectar que el 12% de las solicitudes de usuarios filipinos eran para contenido sexual no consentido, según la Comisión Nacional de Telecomunicaciones (NTC).
- Singapur (2021): Fue el primer país en incluir cláusulas contra deepfakes en su Ley de Protección contra el Odio en Línea, con penas de hasta SGD 100,000 (USD 74,000) para plataformas que no retiren contenido en 24 horas.
¿Por qué Grok podría enfrentar demandas millonarias en 2024?
El bloqueo en Indonesia y Malasia es solo el inicio: la Unión Europea está analizando si Grok incumple el Artículo 51 del AI Act, que prohíbe sistemas de IA que “exploten vulnerabilidades de grupos específicos” (como mujeres o menores). Mientras, en Estados Unidos, el Instituto Nacional de Estándares y Tecnología (NIST) publicó en marzo un informe que vincula directamente la falta de filtros en IA generativa con el aumento del 400% en casos de sextorsión desde 2020. Si xAI no actúa rápido, Grok podría convertirse en el primer caso de una IA comercial sancionada simultáneamente en Asia, Europa y América por el mismo delito. La pregunta ya no es si habrá más bloqueos, sino cuándo —y cuánto costarán.