El Vaticano contra los robots asesinos: el Papa León XIV apunta a la guerra con IA

Un llamado al desarme tecnológico

En el corazón de la encíclica se encuentra la insistencia en que los seres humanos deben tener prioridad sobre la inteligencia artificial. El Papa enmarca la IA como la nueva revolución industrial y hace un llamado a "desarmar la IA", retirándola de los intereses militares y económicos.

"Desarmar la IA significa liberarla de la mentalidad de competencia 'armada', que hoy no se limita simplemente al contexto militar, sino que es también un fenómeno económico y cognitivo", escribió León XIV.

El pontífice fue más allá al afirmar que la mera regulación es insuficiente. "Desarmar no significa renunciar a la tecnología, sino impedir que domine a la humanidad", escribió el Papa. "Por esta razón, regularla simplemente es insuficiente; debe ser desarmada, acogedora y accesible", continuó.

En lo que respecta específicamente al ámbito castrense, el Papa fue tajante. El uso militar de la IA "debe estar sujeto a las restricciones éticas más rigurosas", escribió, añadiendo que la responsabilidad de las acciones militares, especialmente las letales, debe permanecer en manos de los seres humanos, no de las máquinas.

"Por lo tanto, no es lícito confiar decisiones letales o de cualquier modo irreversibles a sistemas artificiales", sentencia el texto.

El pontífice también advirtió que los sistemas de armas autónomas impulsados por IA han hecho que la guerra vuelva a ser más "factible" en los tiempos modernos. Sin nombrar directamente al presidente de Estados Unidos, Donald Trump, León XIV subrayó que era "importante reafirmar que la teoría de la 'guerra justa', que con demasiada frecuencia se ha utilizado para justificar cualquier tipo de guerra, ahora está obsoleta". "Ningún algoritmo puede hacer que la guerra sea moralmente aceptable", añadió.

El poder de las grandes tecnológicas y el nuevo colonialismo

León XIV apuntó directamente contra el poder de las grandes tecnológicas, advirtiendo que la inteligencia artificial corre el riesgo de ampliar la desigualdad, debilitar la democracia y socavar lo que significa ser humano. El Papa criticó duramente el hecho de que unas pocas empresas que operan a nivel mundial controlen elementos esenciales de esta tecnología, hablando del peligro de un "nuevo colonialismo".

"Pequeños grupos muy influyentes pueden moldear la información y los patrones de consumo, influir en los procesos democráticos y dirigir las dinámicas económicas en su propio beneficio, socavando la justicia social y la solidaridad entre los pueblos", escribió.

El pontífice destacó los peligros de que unos pocos individuos adinerados influyan en el futuro y el sustento de la humanidad, ampliando la brecha "entre quienes pueden participar en la revolución digital y quienes permanecen en los márgenes". "La IA tiende a amplificar el poder de quienes ya poseen recursos económicos, experiencia y acceso a los datos", escribió.

León XIV identificó una "nueva cara" del colonialismo, que no solo domina cuerpos, sino que también se apropia de datos: flujos de salud, perfiles epidemiológicos, mapas genéticos y datos demográficos. "Estos se han convertido en las nuevas tierras raras del poder", afirmó el Papa, añadiendo que la tecnología de IA en manos de unos pocos individuos u orientada al lucro representa una nueva forma de dominio colonial.

"Aquí reside uno de los desafíos morales más urgentes de nuestro tiempo: garantizar que el conocimiento compartido se convierta en un verdadero bien común en lugar de un instrumento de dominio. Esto requiere devolver a los individuos no solo los datos que los describen, sino también la capacidad de decidir cómo se utilizan, por quién y para beneficio de quién", escribió.

La dignidad humana frente a la máquina

El Papa fundamenta teológicamente la dignidad humana, afirmando que el ser humano es una criatura amada de Dios y como tal "Magnifica", grande y no para ser optimizada o convertida en rentable. La encíclica argumenta que la dignidad de la persona humana "no depende de las capacidades, la riqueza o la posición en la vida de una persona, ni de las elecciones correctas o incorrectas realizadas", sino simplemente en virtud de existir.

Delegar la toma de decisiones a las máquinas puede "fomentar una dependencia excesiva y la búsqueda de respuestas prefabricadas, y debilitar la creatividad y el juicio personal", advierte el documento. El Papa reconoce el impacto positivo que la innovación de la IA puede aportar a la sociedad humana y al cuidado del medio ambiente, al tiempo que advierte de sus peligros.

"La tecnología nunca es neutral", escribió León XIV, añadiendo que es una expresión de los intereses y las partes interesadas que hay detrás de ella.

El documento también aborda las filosofías populares de Silicon Valley, el transhumanismo y el posthumanismo, que el Papa definió como una serie de supuestos "que interpretan el progreso como la superación de la condición humana". Estas filosofías ven las limitaciones —incluidas la enfermedad, la discapacidad, la vejez y la vulnerabilidad— como algo a superar, escribió León XIV, pero "debemos recordar que la humanidad florece no a pesar de las limitaciones, sino a menudo a través de ellas", añadiendo que una vida sin limitaciones significaría en última instancia no ser humano.

El cardenal Víctor Manuel Fernández, que dirige el departamento doctrinal del Vaticano, declaró en la presentación del documento que, a diferencia de estas filosofías que afirman "que la humanidad ha llegado a su fecha de caducidad y debe ser simplemente reemplazada", la enseñanza católica cree que "cada ser humano tiene una dignidad infinita".

Una actualización de la doctrina social

La encíclica 'Magnifica Humanitas' se presenta como una actualización de la ética social católica. En la presentación del documento en el Aula del Sínodo del Vaticano, el Papa hizo referencia a la encíclica 'Rerum Novarum' de 1891, escrita por su homónimo el Papa León XIII para abordar los desafíos planteados por la revolución industrial del siglo XIX.

"Me siento encargado de supervisar otra gran transformación a través de los ojos de la fe, con la claridad de la razón y con apertura al misterio divino, con el grito de los pobres y de la tierra resonando en mi corazón", dijo León XIV.

El pontífice añadió que la encíclica fue el resultado de una profunda escucha a científicos e ingenieros, líderes políticos y funcionarios públicos, padres y maestros profundamente preocupados por el futuro de las próximas generaciones. "Desarmar no es suficiente, debemos construir", añadió, pidiendo una amplia participación en la programación, regulación y beneficios de la IA.

En el documento, el Papa también reflexionó sobre la historia del comportamiento de la Iglesia hacia la esclavitud, que no fue denunciada completamente hasta el siglo XIX por León XIII, destacando la lenta evolución de la doctrina católica a lo largo del tiempo. "Por esto, en nombre de la Iglesia, pido sinceramente perdón", escribió León XIV.

El pontífice advirtió contra las "nuevas formas de esclavitud", destac