El papa León XIV pide "desarmar" a la inteligencia artificial y advierte de los peligros de esta nueva tecnología en su primera encíclica

El Papa presentó el primer gran documento doctrinal de su pontificado, en el que advirtió que la inteligencia artificial debe ser "desarmada".

"La palabra es fuerte, lo sé, pero ha sido elegida deliberadamente porque este momento exige palabras capaces de captar la atención", indicó León XIV en su primera encíclica, publicada este lunes 25 de mayo.

Aunque técnicamente las encíclicas son cartas dirigidas a los obispos católicos, en las últimas décadas se han convertido en mensajes de los Papas al mundo.

En esta carta, centrada en gran medida en la IA, el papa León también incluyó una de las disculpas más firmes y completas del Vaticano por el papel de la Iglesia Católica en la esclavitud.

Resulta "imposible no sentir un profundo dolor al contemplar el inmenso sufrimiento y la humillación padecidos por tantos", escribió el Papa, y pidió "sinceramente perdón" en nombre de la Iglesia.

León XIV relacionó el comercio de esclavos con la IA al sugerir que el mundo corre el riesgo de volver a normalizar la explotación de las personas, tanto en la producción de esta tecnología como en sus aplicaciones.

Algunas de las imágenes más contundentes empleadas por el Papa en el documento estaban relacionadas con la esclavitud.

El pontífice advirtió de los paralelismos entre la tragedia histórica de la esclavitud tradicional y las amenazas emergentes de "nuevas esclavitudes digitales".

Sugirió que existe el riesgo de una normalización similar de la explotación y que la humanidad se encuentra ante una encrucijada moral comparable.

De manera inusual, el papa León optó por presentar él mismo la encíclica —titulada Magnifica Humanitas ("Magnífica Humanidad")— en el Vaticano, acompañado por expertos en IA, entre ellos Christopher Olah, cofundador de la empresa estadounidense de IA Anthropic.

La advertencia sobre la IA

En sus declaraciones tras la presentación de la encíclica, Olah señaló que todo laboratorio de IA —incluido el suyo— opera "dentro de un conjunto de incentivos y restricciones que, en ocasiones, pueden entrar en conflicto con la necesidad de actuar correctamente".

Sería un error creer que los asuntos relacionados con la IA deben ser gestionados exclusivamente por informáticos como él, añadió Olah.

"Las interrogantes que plantea la IA trascienden el ámbito de la comunidad de investigación en inteligencia artificial, no solo por sus implicaciones, sino también por su propia naturaleza", explicó.

La encíclica del Papa —en la que también se abordan los numerosos riesgos potenciales de la IA— constituye además un mensaje contundente dirigido a quienes ocupan posiciones de poder, recordándoles su responsabilidad de frenar las "amenazas" que esta tecnología plantea.

Por ejemplo, el Papa condenó el uso de la IA en la guerra, afirmando que reducir el control humano sobre el armamento hace aún más difícil considerar una guerra como "justa", y advirtió sobre el inicio de una carrera armamentística basada en IA.

"Ningún algoritmo puede hacer que la guerra sea moralmente aceptable", sentenció.

La IA no solo no elimina la "inhumanidad intrínseca" de la guerra, señaló, sino que además corre el riesgo de desencadenar conflictos con mayor rapidez y volverlos más impersonales al "rebajar el umbral para recurrir a la violencia, transformando la defensa en predicción de amenazas y, por tanto, reduciendo a las víctimas a meros datos".

León también deploró la forma en que la IA incide en la política, por ejemplo mediante la manipulación de imágenes y videos, lo cual cree que expone a las personas a perspectivas sesgadas o engañosas.

Los paralelismos con la esclavitud

En el pasado, el Papa comparó la necesidad actual de establecer salvaguardas frente a la IA con medidas como las tomadas en su momento para proteger la dignidad humana durante la Revolución Industrial.

Sugirió paralelismos entre la falta de acción actual frente a los riesgos de la IA y la "tardanza con la que tanto la sociedad como la Iglesia llegaron a denunciar el flagelo de la esclavitud".

Incluso hizo referencia a los riesgos del "colonialismo digital", vinculando los abusos de la era colonial con prácticas tecnológicas modernas.

En una parte del documento, el pontífice dirigió expresamente un "llamamiento especial" a quienes desarrollan la IA.

"Los desarrolladores tienen una responsabilidad ética y espiritual particular, pues cada elección de diseño refleja una visión de la humanidad", afirmó.

Pero, ¿qué impacto tendrá todo esto?

El papa León ha convocado una comisión para dar continuidad a su labor.

Sin embargo, persisten enormes interrogantes sobre cuán eficaz resultará todo ello frente al rápido avance tecnológico.

En 2015, el difunto papa Francisco escribió su encíclica Laudato Si, centrada en la urgente necesidad de abordar la crisis climática. En 2023, expresó su decepción ante la falta de acción.

Por muy enfático que haya sido sobre la necesidad de poner límites a la inteligencia artificial, el papa León podría verse obligado a lanzar una advertencia similar en los próximos años.

Haz clic aquí para leer más historias de BBC News Mundo.

Suscríbete aquí a nuestro nuevo newsletter para recibir cada viernes una selección de nuestro mejor contenido de la semana.

También puedes seguirnos en YouTube, Instagram, TikTok, X, Facebook y en nuestro nuevo canal de WhatsApp.

Y recuerda que puedes recibir notificaciones en nuestra app. Descarga la última versión y actívalas.