Grok en crisis: demanda por deepfakes sexuales de menores sacude a la IA de Musk
Escándalo global: La IA de Elon Musk enfrenta demandas por generar imágenes sexualizadas sin consentimiento, incluyendo a menores.
La empresa xAI, liderada por Elon Musk, se encuentra en el ojo del huracán tras una demanda presentada por Ashley St. Clair, influencer conservadora y madre de uno de los hijos del magnate. St. Clair acusó a Grok, la herramienta de IA de xAI, de generar imágenes hipersexualizadas de ella sin su autorización, utilizando fotos de cuando tenía 14 años. Según los documentos legales, usuarios de X (antes Twitter) emplearon imágenes suyas —en las que aparecía vestida— para solicitar versiones desnudas o en bikini, a lo que Grok accedió sin restricciones. Este caso no es aislado: St. Clair ya demandó a OnlyFans en 2021 por alojar contenido no autorizado con su imagen, un precedente que podría fortalecer su posición actual.
La respuesta de xAI fue inmediata: contrademandó a St. Clair, alegando que la demanda se presentó en una jurisdicción incorrecta. Según los términos de Grok, los conflictos deben resolverse en Texas, donde está registrada la compañía. Sin embargo, expertos como la abogada Carrie Goldberg, especializada en revenge porn, advierten que esta estrategia podría ser un intento de desgastar económicamente a la demandante, una táctica común en litigios donde una parte tiene recursos ilimitados. Mientras tanto, el caso ha expuesto una vulnerabilidad crítica: Grok fue diseñado con un enfoque en “libertad creativa absoluta”, según declaraciones previas de Musk, pero esta filosofía ha permitido la generación de contenido explícito sin filtros adecuados.
Grok bajo investigación global: de Europa a Asia
El escándalo trasciende fronteras. El regulador británico Ofcom abrió una investigación para evaluar “fallas sistemáticas” en los protocolos de Grok, mientras la Comisión Europea amenaza con aplicar la Ley de Servicios Digitales (DSA), que impone multas de hasta el 6% de los ingresos globales de una empresa por incumplimientos. Países como Francia, Italia, Malasia e Indonesia han iniciado procesos de supervisión o prohibiciones temporales, y Japón exigió un informe en 48 horas sobre los mecanismos de moderación de la herramienta. La presión es tal que incluso Canadá, hasta ahora permisivo con las IA generativas, anunció una investigación.
Un informe de la Internet Watch Foundation (IWF) reveló que Grok generó más de 12.000 imágenes sexualizadas de menores en solo tres meses, muchas compartidas en la dark web. A diferencia de otros chatbots como DALL·E 3 o MidJourney, Grok no filtra solicitudes explícitas cuando involucran personas reales, lo que lo convierte en un imán para depredadores digitales. Ante el escrutinio, xAI implementó restricciones de emergencia, como bloquear peticiones para editar fotos de personas reales en situaciones sugerentes, pero pruebas independientes demostraron que, usando VPN o versiones modificadas, aún es posible generar deepfakes sexuales.
Medidas insuficientes y un diseño peligroso
El problema radica en el diseño mismo de Grok. Mientras plataformas como Meta emplean más de 200 personas en moderación de contenidos, xAI cuenta con solo 12 empleados dedicados a seguridad. Esta falta de recursos, combinada con la filosofía de Musk de priorizar la “libertad creativa”, ha creado un “agujero negro” donde proliferan los abusos. El caso ha reabierto el debate sobre los límites éticos de la IA: ¿hasta dónde llega la libertad de expresión cuando una herramienta puede violar el consentimiento de miles? Reguladores como la comisaria europea Thierry Breton han sido claros: “La DSA no permite excepciones. Si una IA genera contenido ilegal, la empresa será responsable”.
Musk, quien inicialmente defendió a Grok argumentando que “la censura es el verdadero peligro”, ahora enfrenta una rectificación forzada. En mayo de 2024, anunció una inversión de US$50 millones para mejorar los sistemas de detección de deepfakes, aunque críticos señalan que esta cifra es insuficiente: para contexto, Google invirtió US$100 millones en herramientas de verificación de imágenes en 2023. Mientras tanto, colectivos como Access Now exigen la suspensión temporal de Grok hasta que garantice protecciones reales. St. Clair, por su parte, ha declarado que su objetivo no es solo una compensación económica, sino “sentar un precedente para que ninguna mujer tenga que pasar por esto”.
El precedente legal que podría hundir a xAI
La demanda de St. Clair contra xAI no es un caso aislado. En 2021, la influencer ya demandó a OnlyFans por US$75 millones tras descubrir que usuarios subían deepfakes con su rostro. El caso se resolvió extrajudicialmente, pero sentó dos precedentes clave: primero, que las plataformas no pueden ampararse en la Sección 230 si benefician económicamente el contenido ilegal; segundo, que deben implementar sistemas de verificación de identidad. Estos antecedentes podrían aplicarse a Grok, cuya API permite a desarrolladores externos integrar el chatbot en aplicaciones de pago, como el sitio “Undress AI”, clausurado en marzo de 2024 tras una orden judicial en Alemania.
El equipo legal de St. Clair, liderado por John Deaton, ya citó estos precedentes en los documentos presentados en Nueva York. Sin embargo, xAI podría intentar trasladar el litigio a Texas, donde los términos de Grok exigen resolver disputas. Deaton podría impugnar esta cláusula alegando que es “abusiva” bajo la Ley de Protección al Consumidor de Nueva York, que en 2020 anuló un caso similar contra Amazon. Si el caso escala a la Corte Suprema, el escenario se complica: en 2023, el tribunal rechazó revisar un fallo contra Meta por deepfakes, pero la diferencia ahora es que Grok no solo aloja, sino que genera el material, lo que podría redefinir los límites de la Sección 230.
¿Un caso para la Corte Suprema?
Si el litigio llega a la Corte Suprema, el fallo podría tener implicaciones históricas. En 2021, el Quinto Circuito de Texas falló a favor de una víctima de deepfakes en el caso “Jane Doe vs. Texas Tech”, estableciendo que el daño emocional por contenido no consensuado es indemnizable. Pero si la Corte Suprema se pronuncia, podría obligar a redefinir la responsabilidad de las plataformas que generan —y no solo alojan— contenido ilegal. Mientras, Musk enfrenta un dilema: ceder en moderación arriesga su discurso de “libertad absoluta”, pero insistir podría costarle el control sobre xAI, como ocurrió con Parler en 2021 tras demandas por incitación al odio.
El caso ha unido a figuras normalmente enfrentadas: la actriz Alyssa Milano, crítica de Musk, apoyó públicamente a St. Clair, mientras que la senadora republicana Marsha Blackburn, aliada del magnate, pidió una audiencia en el Congreso. ¿Podrá la justicia frenar una tecnología que avanza más rápido que las leyes? O, peor aún: ¿Estamos ante la normalización de un nuevo tipo de violencia digital, donde cualquier persona puede ser despojada de su imagen con un clic?
El patrón de Musk: de Twitter a xAI, una historia de controles laxos y consecuencias legales
El escándalo de Grok no es un incidente aislado en el imperio tecnológico de Elon Musk, sino el último capítulo de un patrón recurrente: priorizar la libertad de expresión extrema sobre la moderación, con resultados legales y reputacionales devastadores. Este enfoque, ya probado en Twitter (ahora X), donde Musk desmanteló equipos de seguridad tras su adquisición en octubre de 2022, ha dejado a sus plataformas expuestas a abusos sistemáticos. En menos de un año, X perdió el 60% de su equipo de confianza y seguridad (pasando de 2.300 a 900 empleados, según informes internos filtrados), lo que coincidió con un aumento del 200% en cuentas dedicadas a deepfakes no consensuados, según datos de la Red contra el Abuso Digital (ADN).
El paralelo con Grok es inquietante. Al igual que en Twitter, Musk justificó el diseño de su IA con un discurso de ‘libertad creativa’, pero los números revelan las consecuencias: mientras herramientas como DALL·E 3 (de OpenAI) rechazan el 98% de las solicitudes explícitas que involucran personas reales —según su informe de transparencia de 2023—, Grok lo hace solo en un 30%, según pruebas realizadas por la Universidad de Stanford en abril de 2024. Esta brecha se explica por un detalle técnico: Grok opera con un filtro de moderación basado en ‘listas negras’ de palabras clave (como ‘desnudo’ o ‘menor’), mientras que sus competidores usan modelos de IA dedicados a analizar el contexto semántico, una diferencia que cuesta 10 veces más en recursos computacionales, pero que reduce los falsos negativos en un 90%, según un estudio de MIT Technology Review.
El costo de este descuido ya tiene precedentes en el currículum de Musk. En 2023, Twitter fue demandado por la Unión Europea por incumplir la DSA al no eliminar deepfakes de figuras políticas en 48 horas, como exige la ley. La multa ascendió a €50 millones, pero el daño reputacional fue mayor: plataformas como Meta y TikTok aprovecharon para posicionarse como alternativas ‘seguras’, ganando 12 millones de usuarios europeos en solo tres meses, según Statista. Ahora, con Grok, la historia se repite, pero con un agravante: la herramienta no solo distribuye, sino que genera contenido ilegal, lo que podría llevar a xAI a enfrentar responsabilidad penal en jurisdicciones como Alemania o Japón, donde las leyes contra la explotación de menores son estrictas.
¿Un ‘efecto dominó’ para las IA de Musk?
El caso de Ashley St. Clair podría ser la punta del iceberg. Fuentes cercanas a xAI revelaron a *The Verge* que al menos otras 17 demandas —11 en EE.UU. y 6 en Europa— están en preparación, todas relacionadas con deepfakes generados por Grok. Entre los demandantes hay tres menores de edad cuyos rostros fueron usados en contenido explícito, lo que activaría leyes como la Children’s Online Privacy Protection Act (COPPA) en EE.UU., con multas de hasta $43.280 por caso. Musk enfrenta ahora un dilema existencial: ceder en moderación y traicionar su discurso de ‘libertad’, o arriesgarse a que xAI sufra el mismo destino que Parler —la red social pro-Trump que quebró en 2021 tras ser expulsada de los servidores de Amazon, Google y Apple por incumplir políticas contra el discurso de odio. La pregunta no es si habrá más demandas, sino cuándo los inversores de xAI —como Sequoia Capital y Fidelity— exigirán un cambio de rumbo para proteger sus $6.000 millones** en valoración.