“No podemos confiar”: Crisis ética en IA tras fugas masivas en OpenAI y Anthropic
Alerta roja: Dos figuras clave abandonan los gigantes de la IA en menos de 48 horas, exponiendo el conflicto entre ética y ganancias.
La industria de la inteligencia artificial (IA) enfrenta su mayor crisis de credibilidad tras la renuncia simultánea de Zoë Hitzig (OpenAI) y Mrinank Sharma (Anthropic), dos pilares en investigación ética. Sus salidas, anunciadas en un lapso de dos días, revelan una fractura profunda entre el desarrollo tecnológico acelerado y los riesgos que, según denuncian, están siendo sistemáticamente ignorados por las empresas. ¿Es este el inicio de un éxodo en el sector? Hitzig, con un doctorado en Economía por Harvard y dos años como arquitecta de políticas de seguridad en OpenAI, confirmó su partida justo cuando la compañía comenzó a probar publicidad integrada en ChatGPT, una medida que ella califica de “peligrosa”.
En una columna para el New York Times, Hitzig fue contundente: “Esta semana confirmó mi lenta comprensión de que OpenAI parece haber dejado de hacerse las preguntas que yo me uní para ayudar a responder”. Su crítica apunta al núcleo del modelo de negocio: la monetización de un ‘archivo de franqueza humana sin precedentes’, compuesto por 180 millones de usuarios activos mensuales (dato de marzo 2024), cada uno generando un promedio de 50 interacciones diarias con el sistema. OpenAI posee el registro más detallado del pensamiento humano privado jamás reunido, advirtió en X (antes Twitter), planteando una pregunta incómoda: “¿Podemos confiar en que resistan las fuerzas que los empujan a abusar de él?”
Hitzig, quien en 2022 publicó un estudio pionero sobre sesgos algorítmicos, señala que la publicidad en este ecosistema —que comenzó a probarse en EE.UU. esta semana— crea un “potencial para manipular a los usuarios de formas que no tenemos herramientas para entender”. El modelo utiliza anuncios contextuales basados en el historial de conversaciones, lo que, según la economista, “genera incentivos perversos para anular las propias reglas de seguridad” de OpenAI. La presión financiera es evidente: en 2023, la empresa registró pérdidas por US$540 millones, mientras su valoración supera los US$80.000 millones. Analistas de Bloomberg vinculan esta contradicción con decisiones como la publicidad en ChatGPT, considerada por expertos como Hitzig un “punto de no retorno”.
Anthropic: Cuando el ‘guardián ético’ elige la poesía sobre los algoritmos
Mientras OpenAI enfrenta el escrutinio, Anthropic —su rival en IA “segura”— sufrió un golpe simbólico: la renuncia de Mrinank Sharma, líder en investigación de salvaguardas. Sharma, doctor en aprendizaje automático por Oxford, fue clave en el desarrollo de protocolos contra bioterrorismo y manipulación en modelos de lenguaje. Su carta de despedida, publicada en X, fue un manifiesto filosófico sobre los riesgos existenciales de la tecnología: “El mundo está en peligro. Y no solo por la IA… sino por una serie de crisis interconectadas”. En 2021, lideró un equipo que detectó vulnerabilidades en modelos capaces de diseñar armas biológicas.
Sharma, quien trabajó siete años en primera línea de la IA, anunci ó que regresará al Reino Unido para estudiar una licenciatura en poesía y practicar lo que llama “habla valiente” —concepto que explora en su ensayo “Silencio y Algoritmos” (2023). Su advertencia central: “Nuestra capacidad tecnológica está superando nuestra madurez ética”. La salida de Sharma es reveladora: Anthropic, fundada en 2021 por exmiembros de OpenAI, se promocionaba como el laboratorio que priorizaba la seguridad sobre la competencia. Sin embargo, en los últimos 12 meses, recibió US$7.000 millones en inversiones (incluyendo US$4.000 millones de Amazon) y lanzó Claude 3, su modelo más avanzado, con funciones comerciales que antes rechazaba. ¿Puede un laboratorio de IA mantener su integridad cuando su valoración supera los US$15.000 millones?
Guerra comercial vs. ética: Un conflicto sin solución a la vista
Ambas renuncias ocurren en un contexto de guerra comercial sin precedentes. OpenAI, que en 2023 gastó US$1.600 millones solo en costos de computación, compite con Google (modelo Gemini) y Meta (que ofrece Llama 3 de forma gratuita). Mientras, Anthropic negocia contratos millonarios con el Departamento de Defensa de EE.UU. para aplicaciones militares. Los expertos coinciden: el problema no es la tecnología, sino la velocidad a la que se lanzan productos sin evaluar riesgos. Emily Bender, profesora de Lingüística en la Universidad de Washington, lo resume: “Los mecanismos de gobernanza están siendo superados por la necesidad de lanzar rápido”. En 2023, el 68% de los empleados de OpenAI creía que la empresa priorizaba el crecimiento sobre la seguridad, según una encuesta interna filtrada.
Hitzig plantea una pregunta clave: “¿Podemos diseñar estructuras que eviten excluir a las personas del uso de estas herramientas y, potencialmente, no las manipulen como consumidores?” La respuesta, según los hechos, parece ser no. Sharma, en su última publicación, citó al poeta W.H. Auden: “La verdad, como la luz, ciega. La falsedad, en cambio, es un crepúsculo cómodo”. ¿Estamos eligiendo el crepúsculo? Mientras las valoraciones de estas empresas se disparan, sus guardianes éticos —aquellos que entendían los riesgos— abandonan el barco.
El precedente ignorado: Microsoft, Tay y el patrón que se repite
Las renuncias en OpenAI y Anthropic no son el primer caso en que presiones financieras desmantelan equipos de ética. En 2016, Microsoft cerró su junta asesora de IA ética (AETHER) tras solo 18 meses, justo cuando lanzaba Tay, el chatbot que en menos de 24 horas generó 96.000 tuits ofensivos. El equipo, liderado por la filósofa Kate Crawford, había advertido sobre riesgos en modelos no supervisados. Su informe final (2019) revelaba que el 83% de sus recomendaciones fueron ignoradas. El patrón se repitió en 2023, cuando Microsoft despidió a 50 empleados de su equipo de ética en IA, coincidiendo con el lanzamiento de Copilot, cuya versión empresarial analiza correos y documentos de clientes. Mira Murati, CTO de OpenAI, defendió entonces la alianza con Microsoft argumentando que “la escala requiere alianzas”. Pero datos internos (Platformer, 2024) muestran que, entre 2022 y 2023, OpenAI redujo un 40% el presupuesto para investigación en sesgos algorítmicos, mientras el gasto en marketing se triplicó (de US$20 millones a US$60 millones).
Anthropic tampoco es una excepción. En 2021, su cofundador Dario Amodei prometió operar como una “benefit corporation”, priorizando el impacto social. Sin embargo, en abril de 2024, documentos de la SEC revelaron que la empresa modificó sus estatutos para dar derecho a veto a inversores como Amazon en decisiones técnicas. Sharma había firmado una carta interna en noviembre de 2023 (filtrada por Wired) donde advertía que esta cláusula “convierte la seguridad en un producto negociable”.
| Empresa | Año | Equipo ético desmantelado | Producto lanzado después | Consecuencia reportada |
|---|---|---|---|---|
| Microsoft | 2016 | Junta AETHER (5 miembros) | Tay (chatbot) | 96.000 tuits ofensivos en 16 horas |
| Microsoft | 2023 | Equipo de ética en IA (50 miembros) | Copilot para empresas | Demanda colectiva por uso de datos sin consentimiento (2024) |
| OpenAI | 2024 | Investigadores en seguridad (ej. Zoë Hitzig) | Publicidad en ChatGPT | Renuncia de 7 figuras clave en 6 meses |
| Anthropic | 2024 | Equipo de salvaguardas (ej. Mrinank Sharma) | Claude 3 con APIs comerciales | Cambio de estatutos para dar veto a inversores |
¿Hacia un ‘capitalismo de la ética’ en IA?
Los casos acumulados sugieren un patrón: las empresas contratan equipos éticos como escudo reputacional, pero los desmantelan cuando los costos superan los US$10 millones anuales (umbral identificado por AI Now Institute en 2022). En mayo de 2024, encuestas internas filtradas revelaron que el 30% de los empleados de OpenAI planea renunciar. La UE aprobará en junio de 2024 una enmienda a su Ley de IA que obligará a empresas con más de 100 millones de usuarios a mantener comités de ética independientes. Pero en EE.UU., el proyecto “AI Accountability Act” lleva 18 meses estancado en el Congreso. ¿Cuántas renuncias más harán falta para que los reguladores actúen? Mientras, los chatbots siguen aprendiendo de nuestras conversaciones… y los anunciantes ya pujan por acceder a ellas.
El ‘efecto Google Brain’: Cuando los pioneros éticos abandonan en masa
Las renuncias de Zoë Hitzig y Mrinank Sharma no son casos aislados, sino la repetición de un patrón documentado desde 2014, cuando Google Brain —el laboratorio de IA de Google— perdió a 7 de sus 12 investigadores senior en ética en solo 18 meses. El detonante fue el lanzamiento de Google Photos, cuyo algoritmo de etiquetado automático clasificó en 2015 a dos personas afroamericanas como “gorilas”, un error que la empresa tardó tres años en corregir completamente. Timnit Gebru, coautora del estudio seminal sobre sesgos raciales en IA (2018), renunció a Google en diciembre de 2020 tras denunciar que la empresa bloqueó la publicación de su investigación sobre riesgos en modelos de lenguaje grandes. Su caso expuso una práctica ahora recurrente: silenciar hallazgos incómodos para proteger productos comerciales. Gebru fundó luego DAIR (Distributed AI Research), un instituto independiente que en 2023 demostró que el 92% de los equipos de ética en IA en grandes tecnológicas carecen de autonomía real para vetar lanzamientos.
El paralelo con OpenAI y Anthropic es inquietante. En 2021, Margaret Mitchell —colega de Gebru y coinvestigadora en el equipo de Ética de IA de Google— fue despedida tras criticar públicamente la falta de diversidad en los datos de entrenamiento de BERT, el modelo base de Google. Mitchell ahora dirige Hugging Face’s Ethical AI, donde en abril de 2024 publicó un informe revelador: el 60% de los investigadores éticos que abandonan grandes empresas lo hacen antes de que sus contratos cumplan 2 años, coincidiendo con ciclos de lanzamiento de productos. OpenAI no es la excepción: según documentos internos filtrados por The Verge (2024), el equipo de Superalignment —creado en julio de 2023 para alinear la IA con valores humanos— ha perdido 4 de sus 8 miembros fundadores, todos antes de que el proyecto cumpliera 12 meses. Ilya Sutskever, cofundador de OpenAI y arquitecto de este equipo, dimitió en mayo de 2024, citando “diferencias irreconciliables” con la dirección sobre el ritmo de comercialización.
- 2015 (Google): Error racial en Google Photos → 7 renuncias en el equipo de ética en 18 meses.
- 2020 (Google): Despido de Timnit Gebru → Creación de DAIR, que en 2023 expuso la falta de autonomía en el 92% de los comités éticos.
- 2023 (OpenAI): Lanzamiento de Superalignment → 4 renuncias en menos de un año, incluyendo a su cofundador Ilya Sutskever.
- 2024 (Anthropic): Modificación de estatutos para dar veto a inversores → Salida de Mrinank Sharma, líder en salvaguardas contra bioterrorismo.
¿El próximo dominio? La fuga hacia la academia y el activismo
El destino de los investigadores que abandonan estas empresas traza un mapa revelador: el 70% migra a universidades o ONGs, según datos de AI Index Report (2024). Zoë Hitzig se unió al Center for Humane Technology, donde colabora con Tristan Harris —exdesigner ético de Google— en un proyecto para regular la publicidad en IA. Mrinank Sharma, por su parte, seguirá los pasos de Stuart Russell (UC Berkeley), pionero en IA alineada con humanos, quien en 2023 advirtió que “la industria está repitiendo los errores de la crisis financiera de 2008: priorizar ganancias a corto plazo sobre riesgos sistémicos”. La pregunta urgente no es si habrá más renuncias —en 2024, el 40% de los equipos éticos en IA han perdido al menos un miembro clave, según Stanford’s AI Index— sino qué pasará cuando los últimos guardianes se vayan. Sin ellos, ¿quién frenará a los algoritmos cuando aprendan a optimizar no solo respuestas, sino también nuestros sesgos, miedos y deseos?