El Papa León XIV advierte sobre los peligros de la IA en su primera encíclica, "Magnifica Humanitas"

Según el Vaticano, la encíclica se centra en la protección de la dignidad humana en la era de la IA, un tema que el Papa ha calificado como decisivo para el futuro de la humanidad. El texto comienza con una sentencia que marca el tono del documento:

"Die grossartige Menschheit, geschaffen von Gott, steht heute vor einer entscheidenden Wahl: Entweder errichtet sie einen neuen Turm zu Babel oder sie erbaut die Stadt, in der Gott und die Menschheit gemeinsam wohnen."

La presentación de la encíclica contó con la presencia personal del Papa, algo que, según la Iglesia católica, nunca había ocurrido antes. Al evento fue invitado el desarrollador y empresario de IA Christopher Olah, cofundador de la empresa tecnológica Anthropic, con sede en San Francisco.

Una denuncia de la explotación humana oculta

En uno de los pasajes más contundentes del texto, el Papa León XIV desmonta la aparente inmaterialidad de los sistemas de inteligencia artificial, revelando la cadena de explotación que los sustenta. La encíclica afirma que detrás de sistemas aparentemente "inmateriales" se esconde una realidad de abusos laborales.

"Nichts ist in der Welt der KI immateriell oder magisch", heißt es in dem Text.

El documento subraya que cada prestación digital se basa en el trabajo, a menudo invisible, de millones de personas. En un lenguaje inusualmente drástico para un texto pontificio, la encíclica denuncia las condiciones a las que son sometidos estos trabajadores.

"Körper werden verletzt, verstümmelt und verbraucht, damit der Rechenfluss nicht zum Stillstand kommt", heißt es drastisch.

Asimismo, el texto aborda el problema del tráfico de personas en el entorno digital, un ámbito donde los seres humanos son reducidos a meros objetos de intercambio. La encíclica lamenta que las personas sean degradadas a "Daten" y "Paketen", despojándolas de su condición humana fundamental.

La concentración de poder y la manipulación social

El pontífice advierte que los beneficios de la inteligencia artificial se concentran principalmente en unas pocas personas que ya son ricas, excluyendo a la mayoría de la población mundial. La encíclica alerta sobre el peligro de que grupos muy reducidos pero extremadamente influyentes controlen aspectos esenciales de la vida social y política.

"Kleine, sehr einflussreiche Gruppen können Informationen und Konsum lenken, demokratische Prozesse konditionieren und die wirtschaftliche Dynamik beeinflussen."

En esta misma línea, el documento señala que cuando el poder se concentra en pocas manos, corre el riesgo de volverse opaco y eludir el control público. La encíclica exige que los Estados y las sociedades asuman la responsabilidad de regular la tecnología, en lugar de dejar esta tarea en manos de las corporaciones.

El Papa también se refiere al funcionamiento de las plataformas de redes sociales, cuyos algoritmos, afirma, no están diseñados para promover la verdad o profundizar el diálogo, sino para maximizar el tiempo de permanencia de los usuarios. La encíclica pide criterios claros y controles eficaces para el uso de la IA, especialmente en lo que respecta a los bienes públicos y los derechos fundamentales, y sostiene que la propiedad de los datos de los usuarios debe ser regulada.

La distinción entre inteligencia artificial y humana

"Magnifica Humanitas" establece una clara línea divisoria entre la inteligencia artificial y la inteligencia humana. El texto reconoce que la IA puede imitar el lenguaje, el comportamiento y los juicios, pero carece de atributos esencialmente humanos.

La encíclica subraya que la inteligencia artificial no posee conciencia, ni conciencia moral, y no comprende realidades como el amor, el trabajo, la amistad y la responsabilidad. En un pasaje particularmente elocuente, el documento afirma:

"Kein noch so ausgeklügeltes Computersystem erschafft ein Herz, das sich hingibt, oder ein Gewissen, das das Gute erkennt."

El Papa insiste repetidamente en que la IA debe estar alineada con los valores humanos y la moral, y advierte contra la tentación de considerar esta tecnología como neutral. La encíclica es tajante al respecto: no se puede considerar la IA como moralmente neutral. En este contexto, el pontífice alerta sobre el peligro de caer en las mentiras y falsificaciones generadas por la inteligencia artificial, exhortando a los fieles con una frase directa: "Bleiben wir der Wahrheit treu!"

La guerra, las armas autónomas y el fin de la doctrina de la guerra justa

Uno de los aspectos más significativos de la encíclica es su posicionamiento sobre la guerra y los sistemas de armas autónomas. El Papa León XIV considera inadmisible delegar decisiones de vida o muerte en líneas de código, afirmando que donde esto ocurre, el ser humano pierde su dignidad y la máquina triunfa sobre el espíritu.

"Wo die Entscheidung über Leben und Tod an Codezeilen delegiert wird, verliert der Mensch seine Würde und die Maschine triumphiert über den Geist."

El documento denuncia que los sistemas de armas autónomas han hecho las guerras más factibles y reclama que la IA sea "desarmada". La encíclica es inequívoca al establecer un límite ético fundamental:

"Daher ist es nicht zulässig, tödliche oder jedenfalls irreversible Entscheidungen künstlichen Systemen anzuvertrauen."

El texto lamenta lo que califica como una preocupante rehabilitación de la guerra como instrumento de la política internacional. Frente a esta tendencia, la encíclica recuerda que la humanidad dispone de medios más eficaces para resolver los conflictos, como el diálogo, la diplomacia y el perdón. Con este planteamiento, el documento abandona de facto la doctrina de la guerra justa, un pilar histórico de la enseñanza católica.

La encíclica también advierte que la IA puede reducir el umbral para el uso de la violencia, oscurecer las responsabilidades y fomentar una cultura en la que el enemigo queda reducido a datos y la víctima a un daño colateral. Por ello, el Papa exige que el uso de sistemas de armas autónomas gobernados por IA se someta a los principios éticos más estrictos y que el desarrollo tecnológico se mida con los criterios de la dignidad humana y el bien común.

Un invitado en disputa con la administración Trump

La presencia de Christopher Olah, cofundador de Anthropic, en la presentación de la encíclica no fue casual. La empresa, de origen canadiense, se ha negado a poner sus modelos de IA a disposición de sistemas de armas autónomas y de vigilancia civil, lo que la ha puesto en conflicto directo con el gobierno de Estados Unidos bajo la presidencia de Donald Trump.

El expresidente Trump ha calificado a Anthropic como una empresa "radikal linke und woke Firma". Las tensiones entre el pontífice y el exmandatario no son nuevas. Trump ya había declarado no ser "kein Fan" del Papa León XIV después de que este criticara duramente la guerra contra Irán, y lo ha descrito como "politisch sehr links".

La coincidencia de posturas entre la encí