El papa León XIV lanzó su primera encíclica y advirtió sobre el peligro del "tecnofascismo"

Uno de los conceptos más fuertes del texto es la denuncia del “tecnofascismo”, definido como la concentración del poder tecnológico en pocas empresas o élites capaces de imponer valores morales y controlar el comportamiento social a través de la inteligencia artificial.

El Papa alertó que “quien controle la IA impondrá su visión moral”, en referencia al peso creciente de Silicon Valley y figuras del mundo tecnológico vinculadas al transhumanismo y a modelos de vigilancia masiva.

"Magnífica Humanidad"

Es la traducción del latín del nombre de la encíclica. Este pensamiento clave de los papas en cada lleva por nombre las primeras palabras del documento tal como se publica en latín. En sus considerandos plantea que siempre la humanidad en cada generación, "recibe como herencia la tarea de dar forma a su propio tiempo: hacer madurar la historia como un lugar donde se proteja la dignidad de cada persona, se promueva la justicia y se haga posible la fraternidad".

Sin embargo, advierte que en cada época se cierne el riesgo de construir un mundo inhumano y más injusto.

En esta tercera década del siglo XXI, para el Papa, el principal riesgo es claramente inidentificable: entronizar a la inteligencia artificial, casi, para reemplazar cualquier tarea que puede desarrollar el hombre. En la visión de León XIV, quien controle esta tecnología tendrá en sus manos un elemento fundamental para lo que puede ser una nueva forma de dominación y control: "el tecnofascismo".

Armas e Inteligencia Artificial

El Papa pone especial énfasis en los peligros que supone dejar todo en manos de la tecnología manejada por los algoritmos. Y con un cuidado especial en el peligro de las nuevas armas, manejadas por el tema de las que se controlan exclusivamente por la Inteligencia artificial.

León XIV advierte que "armas que no tienen soldados detrás" carecen del más mínimo sentimiento de "empatía" o "ponerse en el lugar del otro". Así, decidir cruentos ataques, es mucho más fácil para los líderes de los países.

"La Santa Sede ha señalado recientemente que la creciente facilidad con la que se pueden emplear los sistemas de armas con autonomía operativa hace que la guerra sea más 'viable' y menos sujeta al control humano, lo que contradice el principio de que recurrir a la fuerza armada debe ser un último recurso en caso de legítima defensa", dice León XIV en su encíclica.

Y concluye: "El desarrollo y el uso de la IA en el ámbito bélico deben estar sujetos a las restricciones éticas más rigurosas, y al respeto de la dignidad humana y de la sacralidad de la vida, evitando una carrera armamentista".

El peligro del tecnofascismo queda patentizado cuando dice: "A veces se habla de 'agentes morales artificiales', como si una máquina pudiera garantizar, con mayor coherencia que un ser humano, la distinción entre el bien y el mal. Pero el juicio moral no se puede reducir a un cálculo: implica conciencia, responsabilidad personal y reconocimiento del otro como persona".

"No existe algoritmo que pueda hacer que la guerra sea moralmente aceptable. La IA no libera al conflicto de su intrínseca inhumanidad: sólo puede hacerlo más rápido e impersonal, bajando el umbral del recurso a la violencia y transformando la defensa en previsión operativa, con las víctimas reducidas a datos", puntualiza el Papa.

Mensaje a los líderes del mundo

En las encíclicas, los papa fijan con claridad su pensamiento universal. León XIV ya avanzó en este tema cuando se enfrentó abiertamente con Donald Trump por la guerra en Medio Oriente. En "Magnifica Humanitas" retoma esta idea en uno de sus últimos capítulos que no por casualidad tiene un nombre especial: "Necesidad de la diplomacia y el multilateralismo".

Explica que en las relaciones internacionales, el diálogo es el instrumento insustituible de la diplomacia para prevenir los conflictos y restablecer los lazos de confianza. Frente a las comunicaciones impulsivas, las retóricas agresivas y las lógicas de poder que marcan nuestro tiempo, "la vocación de la diplomacia es aquella de favorecer el diálogo con todos, incluidos los interlocutores que se consideran más incómodos o que no se estiman legítimos para negociar".

También el ciberespacio se ha convertido en terreno de enfrentamiento: los ataques informáticos, la manipulación de datos y las campañas de influencia orquestadas con la ayuda de la IA pueden desestabilizar países enteros, incluso antes de que se llegue a un enfrentamiento armado abierto.

Y concluye que las organizaciones internacionales, en particular la ONU, siguen siendo instrumentos esenciales para promover una civilización del amor, al apoyar el diálogo entre las naciones, la solución pacífica de los conflictos, el desarrollo integral de los pueblos, la protección de las personas más vulnerables, el desarme y el cuidado de la creación.

Es por eso que en su primera encíclica se centra en uno de los instrumentos revolucionarios de este siglo: la Inteligencia Artificial. Concluye el papa: "La IA es ya un ambiente en el que estamos inmersos y un poder que debemos afrontar. Por eso, no basta regularla; es necesario desarmarla y hacerla acogedora”.