Paus Leo nam geen blad voor de mond. In ieder geval niet in zijn eerste encycliek.
Kunstmatige intelligentie moet volgens hem worden ontwapend. Het is niet genoeg om de technologie alleen maar te laten groeien. Hij waarschuwde dat we het land moeten bevrijden van het soort logica dat gereedschap in wapens verandert. Overheersing. Uitsluiting. Dood. Klinkt bekend?
Het is weer kernenergie, maar dan gecodeerd. De boodschap is krachtig. De macht is van iedereen, voor het algemeen belang, of helemaal niet. Je kunt de druk op de knop niet scheiden van het geweten erachter. Verantwoordelijkheid is niet optioneel als het instrument zo zwaar is.
Wees niet bang voor de AI zelf. Dat is de valkuil. Blijf in plaats daarvan vragen of er een mens in zit. We zijn te onzorgvuldig met deze dingen.
Eén waarnemer – iemand in de machinekamer – keek toe en voelde iets zeldzaams in een kamer vol ingenieurs. Dankbaarheid.
“Ik ben dankbaar… We hebben morele stemmen nodig die de prikkels niet kunnen ombuigen.”
Dat is het moeilijkste deel. Het geld wil één ding. De ethiek vereist een andere. Meestal wint het geld.
De waarnemer noemde deze dag slechts een begin. Inmiddels een lange samenwerking. Degenen die het bouwen moeten praten met degenen die kunnen zien wat bouwers, blind door handel, missen. De perspectieven binnenin zijn smal. Je hebt een oog van buitenaf nodig.
Toen was de paus klaar.
“Amen.”
“Hartelijk bedankt.”
En het werk begint. Zullen ze luisteren?
