Paus Leo XIV haalt hard uit naar AI-wapens en techmonopolies

De publicatie van de encycliek is strategisch getimed: exact op de 135ste verjaardag van Rerum novarum (1891), het historische document van paus Leo XIII dat destijds de basis legde voor de sociale leer van de Kerk tijdens de industriële revolutie. Volgens paus Leo XIV bevindt de mensheid zich met de digitale transitie opnieuw op een kruispunt: "We bouwen óf aan een nieuwe Toren van Babel, óf aan een samenleving waarin God en de mensheid samenwonen."

AI is niet neutraal

De paus benadrukt in het document dat technologie van zichzelf niet synoniem staat voor het kwaad. Wel waarschuwt hij dat systemen nooit neutraal zijn. "AI neemt de eigenschappen aan van degenen die het ontwerpen, financieren, reguleren en gebruiken", schrijft de kerkvorst. Hij veroordeelt het 'technocratische paradigma' waarin efficiëntie en winstbejag de boventoon voeren.

Leo XIV eist de komst van een wereldwijde, breed gedragen ethische code voor kunstmatige intelligentie. Volgens het Vaticaan (foto) is een 'morele AI' onvoldoende als die moraal slechts door een selecte groep tech-oligarchen wordt bepaald. Machtsconcentratie moet worden tegengegaan om te voorkomen dat de kloof tussen digitaal ingewijden en uitgeslotenen onoverbrugbaar wordt.

Daarnaast wijst de encycliek op de schaduwzijden van de tech-industrie die vaak onzichtbaar blijven: de uitbuiting van arbeiders die onder erbarmelijke omstandigheden zeldzame aardmetalen delven voor computerchips, en de enorme ecologische voetafdruk van datacentra die gigantische hoeveelheden water en stroom verbruiken. De paus bestempelt deze praktijken als moderne vormen van slavernij en kolonialisme.

'Disarmeer de algoritmes'

Een aanzienlijk deel van de encycliek is gewijd aan de veranderende aard van gewapende conflicten door AI-gestuurde wapensystemen. De paus roept op tot het 'disarmeren' van AI om te voorkomen dat beslissingen over leven en dood volledig onpersoonlijk worden.

"AI neemt de intrinsieke onmenselijkheid van een conflict niet weg", waarschuwt de paus. "Het zorgt er juist voor dat conflicten sneller escaleren en anoniemer worden. Het verlaagt de drempel om naar geweld te grijpen en reduceert menselijke slachtoffers tot louter data."

In het verlengde hiervan verklaart de paus dat de klassieke theorie van de 'rechtvaardige oorlog' (bellum iustum) in het huidige tijdperk definitief achterhaald is. De moderne, hybride oorlogsvoering—waarin ook desinformatie en cyberaanvallen als wapen worden ingezet om de publieke opinie te manipuleren—vraagt volgens hem om een absolute focus op diplomatie, dialoog en multilateralisme. Hij pleit dan ook voor ingrijpende hervormingen binnen de Verenigde Naties om het internationale recht te herstellen.

Gewetenstest voor maatschappij én Kerk

De encycliek functioneert als een brede maatschappelijke spiegel. Zo noemt de paus de opvang van migranten en vluchtelingen de ultieme "lakmoesproef" voor sociale rechtvaardigheid. De manier waarop een samenleving met hen omgaat, laat volgens hem zien of een cultuur wordt gedreven door angst of door broederschap. Ook op de werkvloer moet de menselijke maat terugkeren: AI moet de werknemer ondersteunen en mag niet leiden tot massa-ontslagen in de jacht op winstoptimalisatie.

Opvallend is dat Leo XIV de hand ook in eigen boezem steekt. Hij roept de Rooms-Katholieke Kerk op tot een rigoureus intern gewetensonderzoek. De ethische principes uit de encycliek moeten volgens hem ook gelden voor de kerkelijke structuren zelf.

"Het naleven van deze rechtvaardigheid vereist dat we kerkelijke relaties en structuren zuiveren van misstanden die leiden tot ongelijkheid, een gebrek aan transparantie en machtsmisbruik", aldus de paus, die expliciet benadrukt dat er geluisterd moet worden naar slachtoffers van spiritueel, institutioneel en seksueel misbruik. In het document vraagt de paus bovendien "oprecht vergeving" voor het feit dat de Kerk in het verleden de slavernij pas laat heeft veroordeeld.

Met Magnifica humanitas zet het Vaticaan de toon voor het morele debat rondom digitalisering. De boodschap is helder: hoezeer machines ook leren denken, het morele kompas en het vermogen tot liefde blijven het exclusieve domein van de mens.

Kernpunten 'Magnifica humanitas'

Standpunt van het Vaticaan

Monopolie op Tech

Fel tegen de concentratie van AI-technologie in de handen van een kleine elite.

AI in Oorlogstijd

Oproep tot strikte internationale restricties; AI verlaagt de morele drempel tot geweld.

Klimaat & Mensenrechten

Veroordeling van de uitbuiting bij de winning van zeldzame aardmetalen voor technologie.

Arbeidsmarkt

Productiviteit mag niet boven de waardigheid van de werknemer worden gesteld.

Kerkelijke Inrichting

Oproep tot interne zuivering en excuses voor historische traagheid rond slavernij.