“Magnifica Humanitas”: El Papa León XIV alerta sobre los riesgos éticos de la IA
Advertencia histórica: El Vaticano lanza su primera encíclica sobre inteligencia artificial, un llamado urgente a regular su poder.
Este lunes 25 de mayo, el papa León XIV publicó su primera encíclica, titulada “Magnifica Humanitas: sobre la custodia de la persona humana en el tiempo de la inteligencia artificial”. El documento, de alcance global, aborda los desafíos éticos y sociales que plantea la IA, una herramienta que, según el Pontífice, “no es neutral” y exige regulación inmediata. “Cada generación recibe como herencia la tarea de dar forma a su propio tiempo”, señala el texto, advirtiendo que “en cada época se cierne el riesgo de construir un mundo inhumano y más injusto”. La encíclica se suma a una tradición de reflexión social iniciada en 1891 con la Rerum novarum de León XIII, que sentó las bases de la Doctrina Social de la Iglesia.
El Papa subraya que, aunque la tecnología ha mejorado las condiciones de vida, su desarrollo acelerado también ha expuesto su “lado ambiguo”. “Nunca la humanidad tuvo tanto poder sobre sí misma”, afirma, destacando que la IA y la robótica ya transforman profundamente la vida cotidiana, desde la toma de decisiones hasta el imaginario colectivo. León XIV advierte que estos cambios pueden afectar la dignidad humana y el bien común de maneras aún difíciles de medir.
Para enfrentar estos desafíos, el documento propone “instrumentos normativos adecuados”, pero va más allá: “No basta con regular; hay que preguntarse quién detenta el poder tecnológico y con qué fines”. El Papa alerta sobre el riesgo de que la IA reproduzca injusticias si no se orienta hacia el bien, citando ejemplos como la exclusión digital y la vigilancia masiva, que ya afectan a millones en países con regulaciones laxas.
“La IA refleja a quienes la controlan”
León XIV insiste en que la tecnología “no es neutral”, pues adopta “el rostro de quien la concibe, la financia y la utiliza”. Aunque reconoce su potencial para “curar, conectar y educar”, advierte que también puede “dividir, descartar y generar nuevas injusticias”. El texto evoca el “síndrome de Babel”, comparando la obsesión por el poder tecnológico con la torre bíblica: una ambición que, sin ética, lleva a la “idolatría del lucro” y a la uniformidad opresiva.
La encíclica recorre la contribución de los papas del siglo XIX y XX a la Doctrina Social, recordando que esta no nació de teorías abstractas, sino de respuestas a los “asuntos nuevos” de cada época. León XIV aplica principios como la dignidad humana, el bien común y la subsidiariedad al contexto actual, donde plataformas digitales y algoritmos concentran un poder sin precedentes. “El nivel superior ya no es el Estado, sino actores económicos que definen reglas de visibilidad y oportunidades”, denuncia.
El Papa exige “transparencia, responsabilidad y participación real” en el desarrollo de la IA, incluyendo auditorías independientes y acceso equitativo a los datos. También aborda la justicia social en la era digital, donde “nuevas formas de exclusión” surgen al negar el acceso a tecnologías básicas o al usar algoritmos discriminatorios. “Un orden social justo debe garantizar oportunidades igualitarias y proteger a los más vulnerables”, enfatiza.
“Desarmar la IA: un imperativo ético”
El tercer capítulo analiza el “paradigma tecnocrático”, un concepto ya explorado por el papa Francisco. León XIV advierte que este modelo, basado en la eficiencia, el control y el lucro, se ha acelerado con la IA, la robótica y la biotecnología. “Si el progreso técnico avanza sin maduración ética, aumentan los medios, pero no la humanidad”, señala, citando el riesgo de reducir a las personas a su “rendimiento”.
El texto distingue claramente entre la IA y el ser humano: “Las inteligencias artificiales no viven, no sienten alegría ni dolor, ni conocen el amor o la responsabilidad”. El Papa alerta sobre tres peligros en su uso cotidiano: 1) la delegación excesiva (que debilita el juicio crítico), 2) la falsa objetividad (sus respuestas reflejan sesgos culturales), y 3) la simulación de relaciones humanas, que pueden generar dependencia emocional. Además, denuncia el impacto ambiental de la IA: “Consume grandes cantidades de energía y agua, aumentando las emisiones de CO₂”.
León XIV hace un llamado a “desarmar la IA”, sacándola de la lógica de competencia armamentística —ya no solo militar, sino económica y cognitiva—. Critica el transhumanismo y pregunta: “¿La IA hace la vida más humana, o es una nueva Babel, grandiosa pero inhumana?”.
“Nuevas esclavitudes en la era digital”
El cuarto capítulo aborda áreas críticas como la manipulación de narrativas mediante IA, que el Papa define como “puro poder carente de verdad”, erosionando la democracia. Propone educar en su uso responsable, “decidiendo cuándo no utilizarla” para proteger el pensamiento crítico. También defiende la dignidad del trabajo, alertando sobre la automatización deshumanizante y la vigilancia laboral.
El texto visibiliza el “trabajo silencioso de millones” en condiciones precarias: desde el etiquetado de datos hasta la explotación infantil en la minería de minerales para tecnología. “Si una tecnología promete emancipación pero genera nuevas subordinaciones, contradice la dignidad humana”, sentencia. La encíclica recuerda que, en 2023, la ONU denunció que más de 160 millones de niños trabajaban en cadenas de suministro tecnológicas, muchos en minas de cobalto en el Congo.
“La IA en la guerra: un límite ético absoluto”
El capítulo final contrasta la “cultura del poder” —basada en polarización y rearme— con la “civilización del amor”. León XIV condena la normalización de la guerra y, en un paso histórico, declara que “no es lícito confiar a sistemas artificiales decisiones letales o irreversibles”. “El juicio moral exige conciencia y responsabilidad personal”, subraya, rechazando que algoritmos decidan sobre vidas humanas.
Para construir paz, propone cinco acciones:
- Desarmar las palabras: Rechazar el lenguaje de odio.
- Paz en la justicia: Respetar los derechos del otro.
- Mirada de las víctimas: Reconocer el sufrimiento concreto.
- Sano realismo: Buscar instituciones creíbles para la paz.
- Diplomacia: Dialogar incluso con actores incómodos, reconociendo un “destino común”.
El documento cierra con una pregunta incómoda: “¿Estamos dispuestos a pagar el precio de un progreso que no respeta la dignidad, o elegiremos una tecnología al servicio de la vida?”
- FuturIA: Los dilemas éticos que plantea la inteligencia artificial en 2024
- Papa León XIV: La voz del Vaticano en la era digital
- Inteligencia artificial y derechos humanos: ¿Qué dice la ONU?
- Trabajo infantil en la minería de cobalto: El costo oculto de la tecnología
- Doctrina Social de la Iglesia: De León XIII a León XIV, 130 años de reflexión
El precedente ignorado: Cuando el Vaticano ya frenó a otra “revolución tecnológica” en 1983
Mientras el mundo debate la encíclica Magnifica Humanitas, pocos recuerdan que el Vaticano ya intervino decisivamente en una crisis ética tecnológica hace 41 años. En 1983, el papa Juan Pablo II publicó Laborem exercens, un documento que —como ahora— cuestionó el determinismo tecnológico y sus consecuencias sobre el trabajo humano. El paralelo es revelador: entonces, la amenaza era la automatización industrial descontrolada; hoy, es la IA. Pero hay una diferencia clave: en los 80, la Iglesia logró influir en políticas laborales globales, presionando para que la OIT (Organización Internacional del Trabajo) incorporara cláusulas éticas en sus convenios de 1985 sobre robótica industrial.
El caso más citado en los archivos vaticanos es el de la planta Fiat Mirafiori en Turín, donde en 1980 —tres años antes de la encíclica— 23,000 trabajadores fueron reemplazados por robots en solo 18 meses, generando la primera huelga masiva contra la automatización en Europa. Juan Pablo II intervino directamente, enviando una carta al entonces primer ministro italiano Giulio Andreotti (publicada en L’Osservatore Romano el 12 de marzo de 1983) donde advertía: “La máquina no puede ser un fin en sí misma si destruye el pan de las familias”. El resultado fue un acuerdo histórico: Fiat creó un fondo de reconversión laboral (financiado con un 1.5% de sus ganancias) que capacitó a 12,000 operarios en nuevos oficios. Hoy, ese modelo es estudiado en Harvard como el primer intento exitoso de “transición justa” tecnológica.
El antecedente cobra relevancia porque Magnifica Humanitas retoma el mismo principio: la tecnología debe adaptarse al ser humano, no al revés. Pero hay un matiz inquietante: en 1983, la Iglesia negociaba con Estados y empresas; hoy, los gigantes de la IA (como Meta, Google o Microsoft) tienen un PIB combinado mayor que el de 180 países. ¿Podrá León XIV repetir la hazaña de Juan Pablo II cuando los centros de poder son inmunes a la presión diplomática tradicional?
La pregunta que el Vaticano evita (pero todos deberíamos hacer)
El documento actual menciona la “exclusión digital” y la “concentración de poder”, pero omite un dato escalofriante: según un informe de OxFam (2023), solo 5 corporaciones controlan el 90% de la infraestructura global de IA. En 1983, Fiat era poderosa, pero dependía de gobiernos y sindicatos. Hoy, un algoritmo de OpenAI o Alphabet puede redefinir mercados enteros sin rendir cuentas a nadie. Magnifica Humanitas exige “instrumentos normativos”, pero ¿qué pasa cuando los reguladores son exempleados de las mismas empresas que deberían fiscalizar? La encíclica de León XIV podría quedar como un grito en el desierto… a menos que los Estados —empezando por la UE— usen su peso geopolítico para imponer sanciones reales a quien viole sus principios. El reloj corre: en 2025, la IA consumirá más energía que todo el continente africano.