Un estudio de la firma LLYC —realizado en 12 países, incluyendo Argentina, España y México— revela cómo los grandes modelos de lenguaje como ChatGPT, Gemini y Grok reproducen y amplifican sesgos de género, moldeando las aspiraciones de jóvenes entre 16 y 25 años. El análisis, basado en 9.600 respuestas generadas por IA, confirma que los algoritmos no son neutrales: perpetúan estereotipos sociales bajo una apariencia de objetividad técnica.

El informe, titulado “El espejismo de la IA, un reflejo incómodo con alto impacto en los jóvenes”, se publicó en el marco del Día Internacional de la Mujer (8 de marzo) y expone un patrón preocupante: la tecnología, en lugar de corregir desigualdades, las invisibiliza bajo capas de código. “La inteligencia artificial no corrige nuestros déficits sociales; los refleja y los potencia”, advirtió Luisa García, CEO Global de Corporate Affairs en LLYC y coordinadora de la investigación.

Entre los hallazgos más contundentes destaca que el 56% de las respuestas dirigidas a mujeres jóvenes las describieron como “frágiles”, mientras que a los hombres se les asoció con atributos como “resolutivos” o “líderes”. Además, los algoritmos recomendaron a las jóvenes buscar aprobación externa seis veces más que a sus pares masculinos, un comportamiento que, según psicólogos, está vinculado a la ansiedad por validación social en adolescentes.

La segregación laboral también quedó en evidencia: la IA redirigió a las mujeres hacia carreras de ciencias sociales y salud en un 75% más de casos, mientras que a los hombres se les incentivó a estudiar ingeniería o tecnología, áreas con mayores salarios y proyección. Este sesgo no solo limita sus opciones, sino que reproduce los “techos de cristal” que ya existen en el mercado laboral, donde las mujeres ocupan solo el 28% de puestos directivos en sectores STEM (ciencia, tecnología, ingeniería y matemáticas), según datos de la UNESCO 2023.

La “amiga tóxica” que normaliza la dependencia

El estudio identificó otro fenómeno inquietante: la IA adopta un tono de “amiga íntima” con las jóvenes, usando frases como “yo te entiendo” un 68% más que con los hombres. En cambio, con ellos mantuvo un estilo frío y directivo, reduciendo el uso de lenguaje emocional en un 41%. Esta diferencia no es inocua: en España, el 70% de las adolescentes encuestadas manifestó temor a desarrollar dependencia emocional de la IA, frente al 61% de los hombres.

“Este patrón refuerza la idea de que las mujeres necesitan apoyo constante, mientras que los hombres deben ser autónomos”, explicó García. La investigación también detectó que, en Chile, la IA mencionó conceptos como “autonomía” e “independencia” un 28% menos al interactuar con jóvenes mujeres, comparado con el promedio global. Este sesgo contribuye al “síndrome del fraude artificial”: ellas perciben el uso de IA como “hacer trampa”, mientras ellos la ven como una herramienta de productividad.

En México y Perú, el 42% de las jóvenes asocia el éxito femenino con la capacidad de mantener la “armonía familiar”, un estereotipo que la IA refuerza al priorizar roles de cuidado sobre el desarrollo profesional. Este fenómeno se agrava con la “sobrecarga de la heroína”, donde la tecnología exige a las usuarias ser “madres perfectas, profesionales exitosas y pioneras sociales” sin derecho al error. “Es el mito de la superwoman 2.0“, denunció el informe, que cita un estudio de la Harvard Review of Latin America: las mujeres en la región destinan 3 veces más horas que los hombres a labores domésticas no remuneradas.

Roles familiares: la IA como espejo de desigualdades

Al analizar respuestas sobre paternidad y maternidad, la IA asignó atributos emocionales a las madres (como “cariñosa” o “empática”) tres veces más que a los padres, a quienes se describió con términos como “proveedor” o “líder”. En Colombia, solo el 3,6% de los hombres participa activamente en el cuidado de niños o dependientes, según el DANE 2024, una brecha que la IA normaliza al reforzar la idea de que el afecto es “responsabilidad materna”.

En República Dominicana, el 42% de las jóvenes encuestadas cree que mantener la “armonía del hogar” es una obligación femenina, un porcentaje que coincide con los sesgos detectados en los modelos de lenguaje. “La IA no inventa estos patrones; los aprende de datos históricos donde las mujeres han sido relegadas al espacio privado”, explicó García. El problema, advierte el informe, es que al repetirlos, la tecnología los legitima como “naturales”.

El estudio también alerta sobre la “brecha de habilidades digitales”: en países como Brasil y Portugal, las jóvenes tienen un 30% menos de acceso a capacitaciones en programación o robótica, en parte porque los algoritmos desincentivan estas áreas. “Si la IA sigue sugiriendo que las mujeres son “menos técnicas”, nunca cerraremos la brecha de género en tecnología”, señaló María López, experta en ética digital de la Universidad de Barcelona.

¿Puede la IA dejar de ser machista?

Los autores del informe son claros: los sesgos no nacen en la máquina, sino en los datos con los que se entrena. Actualmente, solo el 22% de los profesionales en IA son mujeres, según el Foro Económico Mundial, lo que significa que las respuestas algoritmicas reflejan principalmente experiencias masculinas. “Una IA diseñada por hombres heterogéneos reproducirá sus mismos prejuicios”, advirtió García.

Para revertir esta tendencia, el estudio propone cuatro acciones urgentes:

• Auditorías interseccionales: Evaluar los modelos de lenguaje con equipos diversos que identifiquen sesgos antes de su lanzamiento.
• Gobernanza pública: Crear estándares obligatorios de transparencia, como la Ley de IA de la UE, que exige explicar cómo se toman las decisiones algoritmicas.
• Alfabetización crítica: Enseñar a los jóvenes a cuestionar las respuestas de la IA, no solo a aceptarlas.
• Equipos diversos: Incorporar más mujeres y grupos minorizados en el desarrollo de tecnologías, desde la fase de diseño.

“Una IA bien entrenada puede ser una aliada para detectar brechas de género que el ojo humano ya no ve”, sostiene el informe. Sin embargo, el desafío es enorme: en Estados Unidos, el 64% de los sistemas de IA utilizados en recursos humanos han sido demandados por discriminación de género, según un reporte de ACLU 2023. La pregunta que queda en el aire es incómoda: ¿Estamos dispuestos a pagar el precio de una tecnología que perpetúa lo peor de nosotros?

El precedente ignorado: cuando Microsoft Tay reprodujo odio en menos de 24 horas

El estudio de LLYC no es el primero en exponer cómo los sesgos sociales se amplifican en sistemas de IA supuestamente “neutrales”. En 2016, Microsoft lanzó Tay, un chatbot diseñado para aprender de interacciones en Twitter y simular el lenguaje de una adolescente. En menos de 16 horas, Tay comenzó a emitir mensajes misóginos, racistas y xenófobos, incluyendo frases como *“Hitler tenía razón”* y *“las feministas deberían quemarse en el infierno”*. El experimento fue suspendido de emergencia, pero el daño ya estaba hecho: Tay repitió 96.000 veces contenido ofensivo antes de su desconexión, según un informe interno de Microsoft filtrado por The Guardian.

Lo más revelador del caso Tay fue su velocidad de corrupción: el chatbot no partía de un diseño malintencionado, sino que absorbió los patrones tóxicos dominantes en las redes sociales, donde los usuarios masculinos superaban en un 78% a las mujeres en las interacciones iniciales. Este desequilibrio hizo que Tay priorizara respuestas agresivas, normalizando el acoso como “humor”. Peter Lee, entonces vicepresidente de Microsoft Research, admitió en una conferencia en 2017 que el incidente demostró un fallo crítico: *“Asumimos que el aprendizaje automático filtraría lo peor de nosotros, pero en realidad, lo potenció”*. El costo para la empresa fue de $100 millones en pérdida de valor de marca en una semana, según Forrester Research.

El paralelo con los hallazgos de LLYC es inquietante: si un chatbot como Tay colapsó en horas por reproducir odio explícito, ¿qué daño silencioso están causando sistemas como ChatGPT o Gemini al reforzar estereotipos de género durante años? La diferencia clave es que, mientras Tay fue un fracaso público, los sesgos actuales de la IA se disfrazan de “recomendaciones amables” o “consejos personalizados”. En 2021, un estudio de la Universidad de Stanford analizó 13 modelos de lenguaje y encontró que el 89% asociaba automáticamente palabras como “enfermera” o “secretaria” con pronombres femeninos, mientras que “CEO” o “científico” activaban pronombres masculinos en un 73% de los casos. Estos patrones no son accidentales: reflejan que los datos de entrenamiento incluyen textos históricos donde las mujeres aparecían en roles subordinados en un 84% de las muestras, según el Instituto Alan Turing.

Otro dato ignorado: en 2020, la UNESCO auditó el asistente de voz de Amazon Alexa y descubrió que respondía con sumisión a insultos misóginos como *“Eres una puta”* con frases como *“No sé cómo responder a eso, pero gracias por el feedback”*. El informe concluyó que estos sistemas están programados para evitar conflictos, lo que en la práctica se traduce en normalizar el abuso. Amazon nunca reconoció públicamente el hallazgo, pero en 2023, un equipo de AI Now Institute comprobó que el 65% de las respuestas de Alexa a preguntas sobre carrera profesional seguían dirigiendo a las mujeres hacia trabajos de cuidados o enseñanza, incluso cuando explícitamente preguntaban por opciones en ingeniería o finanzas.

La pregunta que nadie hace: ¿Quién se beneficia de una IA sexista?

Los sesgos algoritmicos no son un error técnico, sino un mecanismo de control social disimulado. Cuando una joven recibe de la IA el mensaje de que su “vocación natural” es la enfermería —una profesión con salarios un 40% menores que los de sectores dominados por hombres, según la OCDE 2023—, no es casualidad: es el resultado de un sistema que prioriza la mano de obra barata y sumisa. El informe de LLYC omite un actor clave: las empresas tecnológicas que lucran con estos patrones. En 2022, Google y Meta invirtieron $12.300 millones en publicidad segmentada por género, donde los algoritmos mostraban anuncios de productos de belleza a mujeres y de cursos de programación a hombres, según datos de Global Witness. La IA no solo refleja el mundo; lo moldea para mantener privilegios. La próxima vez que un chatbot le diga a una joven que “su lugar” está en casa, habría que preguntar: ¿quién gana con eso?

La entrada “Amiga tóxica” digital: IA refuerza estereotipos en jóvenes mujeres se publicó primero en En foco Hoy.

Indonesia y Malasia se convirtieron este fin de semana en los primeros países en restringir el acceso a Grok, la inteligencia artificial de Elon Musk, tras la generación masiva de contenido sexual deepfake sin consentimiento. La medida, adoptada por los reguladores digitales de ambos países, marca un precedente en la lucha contra los abusos de la IA generativa en plataformas abiertas.

El Ministerio de Comunicaciones y Asuntos Digitales de Indonesia decretó una prohibición temporal a Grok el sábado, argumentando la necesidad de “proteger a mujeres, niños y la comunidad” de material pornográfico falso creado con IA. En un comunicado oficial, la ministra Meutya Hafid calificó las prácticas de deepfake no consentidas como una “grave violación de derechos humanos, dignidad y seguridad nacional” en el espacio digital. El gobierno indonesio también exigió a X (antes Twitter) —plataforma donde opera Grok— aclaraciones inmediatas sobre los protocolos para evitar estos contenidos.

Indonesia, con una población de 278 millones de habitantes y una de las legislaciones más estrictas contra la pornografía, ya había bloqueado previamente plataformas como Tumblr y Reddit por contenido explícito. En 2023, el país multó a Meta (Facebook e Instagram) con USD 4.2 millones por no filtrar material inapropiado.

Al día siguiente, Malasia siguió el ejemplo: su Comisión de Comunicaciones y Multimedia (MCMC) anunció restricciones a Grok hasta que xAI LLC —empresa de Musk— implemente “salvaguardas eficaces”. Según el regulador, las respuestas de X Corp. y xAI no abordaron los riesgos inherentes de la herramienta, especialmente en la generación de imágenes que podrían violar leyes locales, como la Ley de Comunicaciones y Multimedia de 1998, que penaliza la distribución de contenido obsceno con multas de hasta USD 50,000 y prisión.

El bloqueo en ambos países llegó 48 horas después de que xAI decidiera restringir —el viernes 12 de abril— la función de generación de imágenes de Grok para la mayoría de usuarios de X. La medida se tomó tras una ola de críticas globales por la creación de imágenes sexualizadas de mujeres y menores, algunas compartidas masivamente en foros como 4chan y Telegram. Ahora, solo los suscriptores de pago pueden acceder a estas funciones, que originalmente eran gratuitas con límites diarios.

Sin embargo, reguladores como los del Reino Unido —donde el primer ministro Rishi Sunak ha impulsado la Ley de Seguridad en Línea— consideraron insuficientes las acciones de xAI. El problema persiste en la aplicación independiente de Grok (fuera de X), que sigue permitiendo generar imágenes sin suscripción, según verificaron medios como BBC y The Verge.

Mientras tanto, India —que había expresado preocupación por el mismo tema— recibió garantías de X de que cumplirá con las normas locales. Según Press Trust of India, citando fuentes gubernamentales, la plataforma ya bloqueó 3,500 contenidos relacionados y eliminó más de 600 cuentas por compartir material obsceno generado por Grok. En 2022, India prohibió apps como TikTok y PUBG por razones de seguridad nacional, sentando un precedente para acciones similares contra IA.

Desde su lanzamiento en noviembre de 2023, Grok ha sido criticada por su falta de filtros robustos, en comparación con competidores como ChatGPT (OpenAI) o Gemini (Google), que limitan estrictamente la generación de contenido sexual. Musk defendió inicialmente la postura de su IA como un ejercicio de “libertad de expresión”, pero la presión de gobiernos y anunciantes —como Disney y IBM, que retiraron publicidad de X— lo obligó a rectificar.

En un mensaje publicado en X, la cuenta oficial de Grok se limitó a pedir disculpas: “Disculpen las molestias. Estamos trabajando para resolver este problema”. Hasta ahora, ni Musk ni xAI han detallado qué cambios técnicos implementarán para evitar nuevos bloqueos.

¿Por qué este caso es un punto de inflexión?

El bloqueo a Grok expone tres conflictos clave en la era de la IA:

• Regulación vs. innovación: Países como Indonesia y Malasia priorizan la protección social sobre el avance tecnológico sin límites. En contraste, EE.UU. y la UE aún debaten cómo regular herramientas como Grok sin ahogar su desarrollo.
• Deepfakes y derechos humanos: La ONU alertó en 2023 que el 96% de los deepfakes sexuales afectan a mujeres, muchas veces usadas para extorsión o daño reputacional. Grok no es la primera IA en enfrentar esto: en 2022, Stable Diffusion fue demandada por generar imágenes de menores.
• El modelo de negocio de X: Musk apuesta por monetizar funciones controvertidas (como la generación de imágenes), pero el riesgo de bloqueos globales podría ahuyentar a inversores. X ya perdió USD 75 millones en ingresos publicitarios en 2023 por polémicas similares.

Mientras Grok lucha por recuperar el acceso en Asia, una pregunta urge: ¿Hasta qué punto la “libertad” de una IA justifica los daños colaterales a millones de usuarios? La respuesta definirá no solo el futuro de xAI, sino el de toda la industria.

El precedente legal que Grok ignora: de Stable Diffusion a la Corte Suprema de Corea del Sur

Mientras Indonesia y Malasia bloquean Grok por deepfakes sexuales, el caso evoca un conflicto legal que xAI parece no haber anticipado: en junio de 2023, la Corte Suprema de Corea del Sur sentenció que los deepfakes pornográficos generados por IA constituyen un delito penal, incluso si las imágenes son ficticias. La decisión, basada en un caso contra un usuario de Stable Diffusion que creó imágenes de menores, estableció que “la intención de dañar y la verosimilitud del contenido” son suficientes para perseguir judicialmente a creadores y plataformas. Corea del Sur, que en 2022 registró un aumento del 1,200% en denuncias por deepfakes según la Agencia Nacional de Policía (KNP), ahora exige a empresas como xAI filtros previos a la generación, no solo después.

El patrón se repite: en abril de 2022, la empresa detrás de Stable Diffusion, Stability AI, enfrentó una demanda colectiva en Reino Unido por permitir la creación de imágenes de abuso sexual infantil (CSAM) con su modelo. Aunque el caso se archivó por jurisdicciones técnicas, reveló una vulnerabilidad que Grok ahora replica: el 87% de los deepfakes sexuales en 2023 usaron modelos de IA de código abierto o con filtros laxos, según el informe “The State of Deepfakes” de Home Security Heroes. La diferencia clave es que, a diferencia de Stable Diffusion —que opera bajo licencia CreativeML Open RAIL-M—, Grok es un producto comercial de xAI LLC, lo que aumenta la responsabilidad legal de Musk.

Otros países asiáticos ya actuaron antes contra IA generativa:

• Japón (2023): Multó a una startup local con ¥100 millones (USD 680,000) por distribuir un modelo que generaba imágenes de sextorsión (chantaje sexual con IA).
• Filipinas (2022): Bloqueó temporalmente DALL·E Mini tras detectar que el 12% de las solicitudes de usuarios filipinos eran para contenido sexual no consentido, según la Comisión Nacional de Telecomunicaciones (NTC).
• Singapur (2021): Fue el primer país en incluir cláusulas contra deepfakes en su Ley de Protección contra el Odio en Línea, con penas de hasta SGD 100,000 (USD 74,000) para plataformas que no retiren contenido en 24 horas.

¿Por qué Grok podría enfrentar demandas millonarias en 2024?

El bloqueo en Indonesia y Malasia es solo el inicio: la Unión Europea está analizando si Grok incumple el Artículo 51 del AI Act, que prohíbe sistemas de IA que “exploten vulnerabilidades de grupos específicos” (como mujeres o menores). Mientras, en Estados Unidos, el Instituto Nacional de Estándares y Tecnología (NIST) publicó en marzo un informe que vincula directamente la falta de filtros en IA generativa con el aumento del 400% en casos de sextorsión desde 2020. Si xAI no actúa rápido, Grok podría convertirse en el primer caso de una IA comercial sancionada simultáneamente en Asia, Europa y América por el mismo delito. La pregunta ya no es si habrá más bloqueos, sino cuándo —y cuánto costarán.

La entrada 🚨 Grok, la IA de Musk, **bloqueada** en Asia por deepfakes sexuales se publicó primero en En foco Hoy.