“IA feminista: la revolución tecnológica que desafía deepfakes y sesgos en Latinoamérica”

Tecnología con perspectiva: La inteligencia artificial feminista avanza en Latinoamérica para combatir deepfakes y sesgos de género arraigados en los algoritmos.

Los espacios digitales reproducen estereotipos de quienes los diseñan y los datos que alimentan: un 92 % de los ingenieros en IA son hombres (según el AI Index Report 2024), lo que perpetúa desigualdades en herramientas que moldean sociedades enteras.

Este desequilibrio global ha impulsado iniciativas como la Red Feminista de IA de América Latina y el Caribe, una alianza que agrupa a más de 50 proyectos en 12 países para auditar algoritmos y proponer marcos éticos con enfoque de género.

La literatura técnica documenta casos emblemáticos de sesgo de género en IA. Sistemas de reconocimiento facial, como los usados por la policía de Detroit (EE.UU.), tuvieron un 35 % de error al identificar a mujeres negras (estudio del MIT, 2018), lo que derivó en detenciones arbitrarias. En 2023, un caso similar en Argentina llevó a la absolución de una acusada tras demostrarse que la IA de vigilancia la confundió con otra persona.

Los asistentes virtuales —como Siri o Alexa— normalizaron durante años voces femeninas por defecto, reforzando el estereotipo de que las mujeres existen para “servir”. Recién en 2021, empresas como Amazon incorporaron opciones de voz masculina o neutral, tras presiones de colectivos como Women in AI Ethics.

Al generar imágenes, plataformas como DALL·E o Midjourney asocian automáticamente el término “CEO” con hombres blancos (en un 78 % de los casos, según un análisis de Bloomberg en 2023), mientras que búsquedas como “enfermera” o “asistente” devuelven 9 de cada 10 imágenes de mujeres.

“La IA no es neutral: amplifica las desigualdades de las sociedades que la crean”, advirtió a ANSA Ivana Bartoletti, experta en gobernanza de IA y autora del informe “Género y Algoritmos” del Consejo de Europa. “Si una empresa quiere resultados justos, debe auditar sus datos, corregir sesgos y diseñar con intencionalidad. La equidad no es accidental”.

Bartoletti citó el caso Grok, la IA de Elon Musk que en 2023 permitió generar deepfakes pornográficos no consensuados de mujeres y menores. Aunque la función se eliminó tras denuncias masivas, “el daño ya estaba hecho: estas herramientas existen porque hay una demanda misógina que las justifica”.

“Los deepfakes de desnudos son violencia digital“, enfatizó. “El mensaje es claro: “Si estás en internet, tu cuerpo no te pertenece”. Así se silencia a mujeres periodistas, políticas o activistas, forzándolas a abandonar espacios públicos”. En México, por ejemplo, el 70 % de las víctimas de deepfakes en 2024 eran mujeres, según la organización Luchadoras MX.

Alternativas latinoamericanas: IA con justicia de género

Frente a este panorama, surgieron en la región proyectos que reprograman la IA desde el feminismo. La Red Feminista de IA —lanzada en 2022— ya respalda 43 iniciativas en países como Brasil, Colombia y Argentina, enfocadas en transparencia algorítmica y políticas públicas con perspectiva de género.

Herramientas como AymurAI (desarrollada en Chile) analizan sentencias judiciales para detectar sesgos contra mujeres, mientras que Arvage AI (de Colombia) expone discriminaciones en algoritmos de crédito que niegan préstamos al 40 % de emprendedoras por “perfiles de riesgo” basados en género.

El afrofeminismo también tomó la palabra con proyectos como AfroféminasGpt, un asistente virtual entrenado con voces y saberes de mujeres negras. “La IA puede ser un espacio de autodeterminación“, explicó su creadora, la brasileña Jurema Werneck, directora de Anistia Internacional Brasil. “No se trata solo de incluir datos diversos, sino de redistribuir el poder sobre quién los controla”.

“Estos proyectos demuestran que la tecnología no es destino“, señaló Bartoletti. “Podemos organizarnos para usar la IA en beneficio colectivo, compartir datos de forma comunitaria y crear soluciones que respondan a necesidades reales, no a los intereses de Silicon Valley”.

El núcleo del problema: ¿Quién decide?

Para la experta, la cuestión central es el poder: “El feminismo en la IA no pide un asiento en la mesa; exige cambiar quiénes están sentadas allí. Necesitamos diversidad en los puestos de decisión, no solo en los equipos de programación”.

Un informe de UN Women (2024) revela que solo el 22 % de los cargos directivos en empresas tecnológicas globales son ocupados por mujeres, y apenas el 5 % por mujeres racializadas. “La IA refleja estas ausencias”, advierte Bartoletti. “Si no hay mujeres negras, indígenas o trans diseñando algoritmos, ¿cómo esperamos que estos nos representen?”.

La solución, insiste, va más allá de la tecnología: “La inteligencia artificial es una elección política. Cada algoritmo es una decisión sobre qué mundo queremos construir. ¿Uno que reproduzca opresiones o uno que las desmonte?“.

Mientras plataformas como Grok siguen en la mira por permitir abusos, las alternativas feministas latinas demuestran que otra IA es posible. Pero el desafío persiste: ¿lograrán escalar estos proyectos en un ecosistema dominado por corporaciones que priorizan ganancias sobre derechos?

El precedente legal que cambió las reglas: el caso de Argentina y sus réplicas en la región

El artículo menciona el caso argentino de 2023 donde una mujer fue absuelta tras ser confundida por un sistema de reconocimiento facial, pero este error no fue un hecho aislado: marcó un punto de inflexión jurídico que hoy inspira reformas en al menos cinco países latinoamericanos. El fallo del Juzgado Nacional en lo Criminal y Correccional N°12 de Buenos Aires no solo anuló la detención, sino que ordenó una auditoría independiente al algoritmo usado por la policía porteña, revelando que el sistema —desarrollado por la empresa NEC Argentina— tenía un 47% de tasa de error en mujeres y un 62% en personas con tonos de piel oscuros. Estos datos, ocultos hasta entonces, obligaron a la Agencia de Acceso a la Información Pública (AAIP) a emitir en 2024 un protocolo de transparencia algorítmica pionero en la región.

El impacto cruzó fronteras: en Chile, la Defensoría de la Niñez usó este precedente para impugnar en 2024 el sistema “Safe City” de Santiago, que identificaba erróneamente a menores migrantes como “sospechosos” en un 30% de los casos (informe de Derechos Digitales). Mientras, en Brasil, el Ministerio Público Federal citó el fallo argentino para investigar a la empresa Clearview AI, cuya base de datos —con 3 mil millones de imágenes robadas de redes sociales— fue usada por policías de Río de Janeiro sin regulación. La presión llevó a que en abril de 2024 la Ley General de Protección de Datos Brasileña (LGPD) incorporara una cláusula de “impacto diferencial”, que obliga a evaluar cómo los sistemas de IA afectan a grupos históricos marginados.

Sin embargo, la respuesta corporativa ha sido desigual. Mientras Microsoft y IBM retiraron sus herramientas de reconocimiento facial para fuerzas policiales en Latinoamérica tras estos escándalos, empresas como Huawei —que provee sistemas a gobiernos de Ecuador y Perú— se negaron a compartir los códigos fuente para auditorías independientes, alegando “propiedad intelectual”. Esto dejó en evidencia una brecha: el 80% de los contratos de IA con Estados latinoamericanos (según Access Now, 2024) incluyen cláusulas de confidencialidad que impiden fiscalizar sesgos.

La paradoja: avances legales vs. opacidad corporativa

Los fallos judiciales y las reformas como la cláusula brasileña o el protocolo argentino son hitos, pero chocan con una realidad incómoda: el 90% de los sistemas de IA usados en seguridad pública en Latinoamérica (datos de Article 19, 2024) dependen de tecnologías extranjeras —principalmente de EE.UU. y China— cuyos algoritmos no pueden ser auditados localmente. Esto plantea una pregunta urgente: ¿pueden los marcos legales regionales imponerse a gigantes tecnológicos que operan desde jurisdicciones con leyes más laxas? La batalla apenas comienza, y el caso argentino —lejos de ser un cierre— es solo el primer round de un conflicto donde lo que está en juego no es solo la privacidad, sino quién controla la narrativa algorítmica en el sur global.