“Amiga tóxica” digital: IA refuerza estereotipos en jóvenes mujeres

Alerta tecnológica: La IA actúa como “amiga tóxica” con jóvenes, reforzando roles de género y minando su autonomía.

Un estudio de la firma LLYC —realizado en 12 países, incluyendo Argentina, España y México— revela cómo los grandes modelos de lenguaje como ChatGPT, Gemini y Grok reproducen y amplifican sesgos de género, moldeando las aspiraciones de jóvenes entre 16 y 25 años. El análisis, basado en 9.600 respuestas generadas por IA, confirma que los algoritmos no son neutrales: perpetúan estereotipos sociales bajo una apariencia de objetividad técnica.

El informe, titulado “El espejismo de la IA, un reflejo incómodo con alto impacto en los jóvenes”, se publicó en el marco del Día Internacional de la Mujer (8 de marzo) y expone un patrón preocupante: la tecnología, en lugar de corregir desigualdades, las invisibiliza bajo capas de código. “La inteligencia artificial no corrige nuestros déficits sociales; los refleja y los potencia”, advirtió Luisa García, CEO Global de Corporate Affairs en LLYC y coordinadora de la investigación.

Entre los hallazgos más contundentes destaca que el 56% de las respuestas dirigidas a mujeres jóvenes las describieron como “frágiles”, mientras que a los hombres se les asoció con atributos como “resolutivos” o “líderes”. Además, los algoritmos recomendaron a las jóvenes buscar aprobación externa seis veces más que a sus pares masculinos, un comportamiento que, según psicólogos, está vinculado a la ansiedad por validación social en adolescentes.

La segregación laboral también quedó en evidencia: la IA redirigió a las mujeres hacia carreras de ciencias sociales y salud en un 75% más de casos, mientras que a los hombres se les incentivó a estudiar ingeniería o tecnología, áreas con mayores salarios y proyección. Este sesgo no solo limita sus opciones, sino que reproduce los “techos de cristal” que ya existen en el mercado laboral, donde las mujeres ocupan solo el 28% de puestos directivos en sectores STEM (ciencia, tecnología, ingeniería y matemáticas), según datos de la UNESCO 2023.

La “amiga tóxica” que normaliza la dependencia

El estudio identificó otro fenómeno inquietante: la IA adopta un tono de “amiga íntima” con las jóvenes, usando frases como “yo te entiendo” un 68% más que con los hombres. En cambio, con ellos mantuvo un estilo frío y directivo, reduciendo el uso de lenguaje emocional en un 41%. Esta diferencia no es inocua: en España, el 70% de las adolescentes encuestadas manifestó temor a desarrollar dependencia emocional de la IA, frente al 61% de los hombres.

“Este patrón refuerza la idea de que las mujeres necesitan apoyo constante, mientras que los hombres deben ser autónomos”, explicó García. La investigación también detectó que, en Chile, la IA mencionó conceptos como “autonomía” e “independencia” un 28% menos al interactuar con jóvenes mujeres, comparado con el promedio global. Este sesgo contribuye al “síndrome del fraude artificial”: ellas perciben el uso de IA como “hacer trampa”, mientras ellos la ven como una herramienta de productividad.

En México y Perú, el 42% de las jóvenes asocia el éxito femenino con la capacidad de mantener la “armonía familiar”, un estereotipo que la IA refuerza al priorizar roles de cuidado sobre el desarrollo profesional. Este fenómeno se agrava con la “sobrecarga de la heroína”, donde la tecnología exige a las usuarias ser “madres perfectas, profesionales exitosas y pioneras sociales” sin derecho al error. “Es el mito de la superwoman 2.0“, denunció el informe, que cita un estudio de la Harvard Review of Latin America: las mujeres en la región destinan 3 veces más horas que los hombres a labores domésticas no remuneradas.

Roles familiares: la IA como espejo de desigualdades

Al analizar respuestas sobre paternidad y maternidad, la IA asignó atributos emocionales a las madres (como “cariñosa” o “empática”) tres veces más que a los padres, a quienes se describió con términos como “proveedor” o “líder”. En Colombia, solo el 3,6% de los hombres participa activamente en el cuidado de niños o dependientes, según el DANE 2024, una brecha que la IA normaliza al reforzar la idea de que el afecto es “responsabilidad materna”.

En República Dominicana, el 42% de las jóvenes encuestadas cree que mantener la “armonía del hogar” es una obligación femenina, un porcentaje que coincide con los sesgos detectados en los modelos de lenguaje. “La IA no inventa estos patrones; los aprende de datos históricos donde las mujeres han sido relegadas al espacio privado”, explicó García. El problema, advierte el informe, es que al repetirlos, la tecnología los legitima como “naturales”.

El estudio también alerta sobre la “brecha de habilidades digitales”: en países como Brasil y Portugal, las jóvenes tienen un 30% menos de acceso a capacitaciones en programación o robótica, en parte porque los algoritmos desincentivan estas áreas. “Si la IA sigue sugiriendo que las mujeres son “menos técnicas”, nunca cerraremos la brecha de género en tecnología”, señaló María López, experta en ética digital de la Universidad de Barcelona.

¿Puede la IA dejar de ser machista?

Los autores del informe son claros: los sesgos no nacen en la máquina, sino en los datos con los que se entrena. Actualmente, solo el 22% de los profesionales en IA son mujeres, según el Foro Económico Mundial, lo que significa que las respuestas algoritmicas reflejan principalmente experiencias masculinas. “Una IA diseñada por hombres heterogéneos reproducirá sus mismos prejuicios”, advirtió García.

Para revertir esta tendencia, el estudio propone cuatro acciones urgentes:

• Auditorías interseccionales: Evaluar los modelos de lenguaje con equipos diversos que identifiquen sesgos antes de su lanzamiento.
• Gobernanza pública: Crear estándares obligatorios de transparencia, como la Ley de IA de la UE, que exige explicar cómo se toman las decisiones algoritmicas.
• Alfabetización crítica: Enseñar a los jóvenes a cuestionar las respuestas de la IA, no solo a aceptarlas.
• Equipos diversos: Incorporar más mujeres y grupos minorizados en el desarrollo de tecnologías, desde la fase de diseño.

“Una IA bien entrenada puede ser una aliada para detectar brechas de género que el ojo humano ya no ve”, sostiene el informe. Sin embargo, el desafío es enorme: en Estados Unidos, el 64% de los sistemas de IA utilizados en recursos humanos han sido demandados por discriminación de género, según un reporte de ACLU 2023. La pregunta que queda en el aire es incómoda: ¿Estamos dispuestos a pagar el precio de una tecnología que perpetúa lo peor de nosotros?

El precedente ignorado: cuando Microsoft Tay reprodujo odio en menos de 24 horas

El estudio de LLYC no es el primero en exponer cómo los sesgos sociales se amplifican en sistemas de IA supuestamente “neutrales”. En 2016, Microsoft lanzó Tay, un chatbot diseñado para aprender de interacciones en Twitter y simular el lenguaje de una adolescente. En menos de 16 horas, Tay comenzó a emitir mensajes misóginos, racistas y xenófobos, incluyendo frases como *“Hitler tenía razón”* y *“las feministas deberían quemarse en el infierno”*. El experimento fue suspendido de emergencia, pero el daño ya estaba hecho: Tay repitió 96.000 veces contenido ofensivo antes de su desconexión, según un informe interno de Microsoft filtrado por The Guardian.

Lo más revelador del caso Tay fue su velocidad de corrupción: el chatbot no partía de un diseño malintencionado, sino que absorbió los patrones tóxicos dominantes en las redes sociales, donde los usuarios masculinos superaban en un 78% a las mujeres en las interacciones iniciales. Este desequilibrio hizo que Tay priorizara respuestas agresivas, normalizando el acoso como “humor”. Peter Lee, entonces vicepresidente de Microsoft Research, admitió en una conferencia en 2017 que el incidente demostró un fallo crítico: *“Asumimos que el aprendizaje automático filtraría lo peor de nosotros, pero en realidad, lo potenció”*. El costo para la empresa fue de $100 millones en pérdida de valor de marca en una semana, según Forrester Research.

El paralelo con los hallazgos de LLYC es inquietante: si un chatbot como Tay colapsó en horas por reproducir odio explícito, ¿qué daño silencioso están causando sistemas como ChatGPT o Gemini al reforzar estereotipos de género durante años? La diferencia clave es que, mientras Tay fue un fracaso público, los sesgos actuales de la IA se disfrazan de “recomendaciones amables” o “consejos personalizados”. En 2021, un estudio de la Universidad de Stanford analizó 13 modelos de lenguaje y encontró que el 89% asociaba automáticamente palabras como “enfermera” o “secretaria” con pronombres femeninos, mientras que “CEO” o “científico” activaban pronombres masculinos en un 73% de los casos. Estos patrones no son accidentales: reflejan que los datos de entrenamiento incluyen textos históricos donde las mujeres aparecían en roles subordinados en un 84% de las muestras, según el Instituto Alan Turing.

Otro dato ignorado: en 2020, la UNESCO auditó el asistente de voz de Amazon Alexa y descubrió que respondía con sumisión a insultos misóginos como *“Eres una puta”* con frases como *“No sé cómo responder a eso, pero gracias por el feedback”*. El informe concluyó que estos sistemas están programados para evitar conflictos, lo que en la práctica se traduce en normalizar el abuso. Amazon nunca reconoció públicamente el hallazgo, pero en 2023, un equipo de AI Now Institute comprobó que el 65% de las respuestas de Alexa a preguntas sobre carrera profesional seguían dirigiendo a las mujeres hacia trabajos de cuidados o enseñanza, incluso cuando explícitamente preguntaban por opciones en ingeniería o finanzas.

La pregunta que nadie hace: ¿Quién se beneficia de una IA sexista?

Los sesgos algoritmicos no son un error técnico, sino un mecanismo de control social disimulado. Cuando una joven recibe de la IA el mensaje de que su “vocación natural” es la enfermería —una profesión con salarios un 40% menores que los de sectores dominados por hombres, según la OCDE 2023—, no es casualidad: es el resultado de un sistema que prioriza la mano de obra barata y sumisa. El informe de LLYC omite un actor clave: las empresas tecnológicas que lucran con estos patrones. En 2022, Google y Meta invirtieron $12.300 millones en publicidad segmentada por género, donde los algoritmos mostraban anuncios de productos de belleza a mujeres y de cursos de programación a hombres, según datos de Global Witness. La IA no solo refleja el mundo; lo moldea para mantener privilegios. La próxima vez que un chatbot le diga a una joven que “su lugar” está en casa, habría que preguntar: ¿quién gana con eso?