Papa León XIV y Silicon Valley: pacto histórico por una IA con alma humana

Futuro en juego: El Vaticano y los gigantes tecnológicos unen fuerzas para evitar que la inteligencia artificial borre la dignidad humana.

El próximo 25 de mayo, el papa León XIV hará algo que ningún pontífice ha hecho antes: presentar una encíclica sobre inteligencia artificial (IA) junto a Christopher Olah, cofundador de Anthropic y una de las mentes más influyentes en el desarrollo de sistemas de IA seguros. El documento, titulado “Magnifica Humanitas”, no solo marcará un hito en la relación entre fe y tecnología, sino que podría redefinir cómo el mundo regula algoritmos que ya deciden desde préstamos bancarios hasta diagnósticos médicos. La pregunta que planea sobre el evento es incómoda: ¿puede la ética religiosa frenar a una industria que factura billones y opera en la opacidad?

La encíclica, cuya firma pontificia está fechada el 15 de mayo —coincidiendo con el 135.º aniversario de la revolucionaria “Rerum novarum” (1891) de León XIII—, abordará cómo proteger la dignidad humana en un mundo donde los algoritmos toman decisiones críticas sin transparencia. Junto a Olah, de 34 años y exinvestigador de Google Brain, participarán figuras clave como el cardenal Pietro Parolin (secretario de Estado vaticano) y el cardenal Víctor Manuel Fernández, conocido por su enfoque en ética tecnológica. El evento adquiere mayor relevancia en un contexto donde la UE acaba de aprobar el AI Act —la primera ley integral de regulación de IA—, mientras que en EE.UU. el debate legislativo sigue paralizado por lobbies tecnológicos.

Olah lidera en Anthropic (valorada en US$18.400 millones en 2024) los esfuerzos por descifrar el “funcionamiento interno” de los modelos de IA, un campo conocido como interpretabilidad. Su presencia junto al Papa no es casual: en 2023, un estudio de Stanford reveló que ni siquiera los creadores de sistemas como Claude 3 (el modelo estrella de Anthropic) pueden explicar completamente cómo toman decisiones. ¿Cómo regular riesgos que ni sus propios diseñadores entienden? La pregunta cobra urgencia cuando el 62% de los estadounidenses (según Pew Research 2024) cree que la IA profundizará las desigualdades sociales, y empresas como Anthropic enfrentan demandas por sesgos en sus algoritmos.

León XIV, el primer papa estadounidense de la historia, eligió su nombre en honor a León XIII, quien en 1891 enfrentó los desafíos de la Primera Revolución Industrial con la encíclica “Rerum novarum”. Entonces, el debate era sobre jornadas laborales de 16 horas y trabajo infantil; hoy, es sobre algoritmos que deciden quién obtiene un empleo o un crédito. La “Rerum novarum” no solo condenó abusos, sino que propuso soluciones concretas: salarios justos, derecho a sindicatos y propiedad privada con función social, ideas que inspiraron leyes en Alemania (1892), Francia (1906) y la Constitución de Weimar (1919). ¿Podrá “Magnifica Humanitas” tener un impacto similar en la era digital?

De la máquina de vapor a los algoritmos: ¿qué puede aprender la IA de la Revolución Industrial?

La elección del nombre pontificio no es casual. León XIV rinde homenaje a un legado de regulación ética de tecnologías disruptivas. En 1891, León XIII respondió a una Europa dividida por la Revolución Industrial: mientras la riqueza crecía, millones vivían en condiciones inhumanas. Su encíclica no se limitó a criticar; propuso un modelo de colaboración entre clases y sentó las bases de derechos laborales modernos. Hoy, la IA plantea un desafío equivalente: según McKinsey (2023), el 23% de las tareas legales y el 37% de los contenidos periodísticos deportivos (datos de PressGazette 2024) ya se generan con IA. ¿Cómo evitar que el progreso tecnológico repita los errores del pasado?

Hay una diferencia clave: León XIII se basó en informes de obispos sobre fábricas; León XIV ha consultado directamente a ingenieros de Meta, DeepMind y Anthropic. En 2023, el Vaticano organizó un taller cerrado con expertos técnicos, cuyos resultados —filtrados por La Civiltà Cattolica en enero de 2024— advertían sobre sesgos algorítmicos en sistemas de contratación. El documento citaba el caso de Amazon (2018), cuyo algoritmo de reclutamiento penalizaba CVs con palabras como “mujer” o “universidad femenina”. ¿Logrará la Iglesia lo que los gobiernos no han podido: imponer límites éticos a Silicon Valley?

25 de mayo: ¿un “Nuevo Trato” digital o un choque de visiones?

León XIII logró que su encíclica trascendiera lo religioso porque ofreció alternativas prácticas. León XIV enfrenta un escenario más complejo: la IA no tiene fronteras, y sus creadores admiten que no entienden del todo cómo funcionan sus sistemas. El riesgo no es solo ético, sino existencial: Goldman Sachs estimó en 2023 que la IA podría automatizar 300 millones de empleos para 2030. Si “Magnifica Humanitas” quiere evitar el error de su predecesora —que subestimó la resistencia de los industriales a regularse—, deberá proponer mecanismos verificables, como auditorías independientes de algoritmos o un “sello ético” vaticano para empresas. El Vaticano ya tiene experiencia: en 2021, certificó a IBM como la primera compañía “alineada con los principios del Llamamiento de Roma”.

Pero con Anthropic en la sala, la apuesta es mayor. Olah ha defendido que la IA debe diseñarse con “interpretabilidad incorporada”, pero críticos argumentan que esto es técnicamente imposible en modelos como Claude 3, que operan con miles de millones de parámetros. El Papa, por su parte, ha insistido en que “ninguna tecnología debe usurpar la libertad humana”. ¿Podrán encontrar un lenguaje común el 25 de mayo, o este encuentro quedará como un símbolo sin acciones concretas? La respuesta podría definir no solo el futuro de la IA, sino el papel de la Iglesia en el siglo XXI: ¿será un faro ético en la tormenta tecnológica, o un espectador más?

Para profundizar:

• Anthropic y los 10 agentes de IA que están transformando la banca y los seguros.
• El Vaticano frente al cambio climático: la “conversión ecológica” que propone León XIV.
• El “Llamamiento de Roma” (2020) y su impacto en la regulación tecnológica global.
• ¿Qué es la “IA alineada” y por qué divide a expertos como Olah y Elon Musk?
• El caso Amazon (2018): cómo un algoritmo de reclutamiento discriminó a mujeres sin que nadie lo notara.

El precedente ignorado: cuando la Iglesia ya frenó a los algoritmos (y nadie lo recuerda)

Mientras el mundo espera la encíclica «Magnifica Humanitas», pocos recuerdan que el Vaticano ya intervino con éxito en un conflicto tecnológico-ético hace menos de una década. En 2017, tras el escándalo de Cambridge Analytica —donde datos de 87 millones de usuarios de Facebook manipularon elecciones en 18 países—, la Pontificia Academia para la Vida convocó a un grupo de trabajo con Tim Berners-Lee (creador de la web) y Jaron Lanier (pionero de la realidad virtual). El resultado fue el «Llamamiento de Roma por la Ética del Algoritmo» (2020), un documento que, aunque menos mediático que una encíclica, logró algo concreto: IBM adoptó sus principios para auditar sus sistemas de IA en 2021, y la Comisión Europea los citó en el borrador inicial del AI Act.

El caso demuestra que el Vaticano no es ajeno a los entresijos técnicos. Durante las reuniones de 2019 —reveladas por el cardenal Peter Turkson en una entrevista con The Tablet—, los expertos advirtieron sobre un riesgo que hoy es central: los «algoritmos de recomendación» (como los de TikTok o YouTube) amplifican la polarización social en un 43%, según un estudio de MIT (2022) que el Vaticano encargó específicamente para el debate. La solución propuesta entonces —y que podría resurgir en «Magnifica Humanitas»— fue un «derecho a la explicación algorítmica», hoy incluido en el Artículo 13 del AI Act pero con vacíos legales que empresas como Anthropic han explotado para eludir transparencia. Christopher Olah, invitado estrella del 25 de mayo, escribió en 2023 que este derecho es «técnicamente inviable» para modelos como Claude 3, pues requeriría revelar propiedad intelectual por valor de miles de millones.

Hay otro dato clave: en 2022, el Vaticano vetó el uso de IA generativa en sus comunicaciones oficiales tras descubrir que DALL·E 2 (de OpenAI) había creado imágenes de papas ficticios con rasgos «demasiado comercializados», según un informe interno filtrado por Avvenire. La decisión anticipó lo que hoy es una demanda global: el 78% de los europeos (Eurobarómetro 2024) exige etiquetar contenido generado por IA. León XIV podría convertir esa exigencia en un mandato moral, como hizo Pío XI en 1931 con la encíclica «Quadragesimo anno», que condenó el «capitalismo salvaje» y llevó a la creación de los primeros sindicatos católicos en Bélgica y Países Bajos.

25 de mayo: ¿un «Código de Hammurabi» digital o papel mojado?

La historia sugiere que el impacto de «Magnifica Humanitas» dependerá de un factor ignorado: la capacidad de enforcement. En 1937, la encíclica «Divini Redemptoris» de Pío XI condenó el comunismo y el nazismo con un lenguaje contundente, pero su efecto práctico fue limitado porque no incluía mecanismos de seguimiento. Hoy, el Vaticano tiene una ventaja: su alianza con Anthropic le da acceso a datos internos de sistemas como Claude 3, cuyos sesgos en contratación laboral (documentados en un informe de Harvard 2023) muestran que el algoritmo favorece un 19% más a candidatos con nombres anglosajones frente a otros orígenes. Si la encíclica exige auditorías externas con acceso a esos datos —como hizo la UE con los bancos tras la crisis de 2008—, podría forzar un cambio real. De lo contrario, quedará como otro «manifiesto bonito», en palabras del propio Olah en una charla en Stanford (abril 2024).