Påven Franciskus lärdomar och utmaningar om artificiell intelligens

En av de stora framgångarna vid det italienskledda G7-toppmötet i Puglia den 13-15 juni var påven Bergoglios inlägg i debatten om artificiell intelligens. För första gången deltog faktiskt en påve vid ett möte inom ramen för detta toppmöte: en viktig framgång för president Meloni, särskilt med tanke på djupet och den absoluta centraliteten i de ämnen som påven Franciskus tog upp.

Ett ”fascinerande och fantastiskt” verktyg

Att lyssna på vad en företrädare för en tusenårig institution säger om ett så aktuellt ämne som artificiell intelligens är allt annat än självklart. Faktum är att påven berör flera ämnen och lanserar utmaningar för den internationella politiken som är så höga att de minst sagt får ens handleder att darra. Bergoglio talade om artificiell intelligens som ett ”fascinerande och fantastiskt” instrument, men placerade det helt i människans händer och beslut. AI betraktas faktiskt, i påvens föreläsning, som frukten av den extraordinära kreativa potential som Gud har gett mänskligheten, ett verktyg som i allt högre grad kommer att påverka vårt sätt att leva, våra sociala relationer och i framtiden även vårt sätt att uppfatta vår identitet som människor. Risken är att vi till slut kommer att definiera oss själva – som människor – som något annat än artificiell intelligens. Ett tema som inte kan annat än att skapa rädsla på grund av de konsekvenser det skulle innebära.

Ett instrument i det godas eller det ondas tjänst

I vilket fall som helst förpassar påvens reflektion AI till rollen som ett instrument. Därför beror dess slutliga värde i det godas eller det ondas tjänst helt och hållet på hur vi väljer att använda den. Tyvärr är mänskligheten själv i många fall, påminde Bergoglio oss sedan, en fiende till sig själv och till planeten. Vad vi upplever, enligt påven, är en verklig kognitiv-industriell revolution som kommer att bidra till skapandet av ett nytt socialt system som kännetecknas av komplexa epokala omvandlingar. Å ena sidan finns möjligheten till stora vetenskapliga och tekniska framsteg, å andra sidan finns möjligheten att den ständigt ökande användningen av artificiell intelligens skulle kunna leda till större orättvisa mellan utvecklade länder och utvecklingsländer, mellan dominerande och förtryckta klasser.

Mellan etik och ”algorethics”

Som redan nämnts berörde påvens reflektion höga teman som etik – betraktad som villkoret mellan frihet och ansvar samt skillnaden mellan val och beslut. I själva verket ser Bergoglio artificiell intelligens som inget annat än en förmåga att välja, baserat på statistiska data och sannolikhet, medan människan inte bara är kapabel att välja, utan också att besluta på andra sätt. Detta är vad som måste förbli grunden för den mänskliga erfarenheten, annars är den fruktade risken att döma mänskligheten till en hopplös framtid som är helt beroende av val som beräknas av maskiner.

Ett koncept som lätt kan kopplas till dagens konflikter och den växande debatten om användningen av AI på krigsskådeplatser med utvecklingen av dödliga autonoma vapen. I det här fallet vill vi att människovärdet åter ska sättas i centrum och bli hörnstenen i ett etiskt förslag som kan delas i så stor utsträckning som möjligt.

Det var här som påven påminde om och utvecklade begreppet ”algoretik”, som han redan hade uttryckt när han undertecknade ”Romuppropet för AI-etik” 2020. Det finns därför ett behov av att uppnå en etisk måttfullhet i de algoritmer som ligger till grund för denna nya teknik. Temat är fortfarande att hitta en gemensam värdehierarki, och detta är den första stora utmaning som påven lanserar för de sju stora och för den internationella politiken. Bergoglios impuls är att hitta en uppsättning gemensamma principer som kan användas för att hantera och lösa de etiska dilemman som kan uppstå vid utvecklingen av dessa teknologier.

Utmaningen till politiken

Den andra och sista utmaningen riktades av påven mot den politiska klassen, och det är kanske den viktigaste och mest komplexa. Enligt Bergoglio måste politiken vara hälsosam för att man ska kunna ta itu med de stora strukturella bristerna i världssamhället. Det finns inget behov av små lappar, sa påven, men man måste ha styrkan att gå till roten. Det är det enda sättet att leda en integrerad ekonomi, ett politiskt och socialt projekt som ser till det allmännas bästa och som också kan styra verktyg som artificiell intelligens mot denna nya värld. Det är därför upp till var och en att använda artificiell intelligens på ett bra sätt, men det är politiken som måste skapa förutsättningar för att den verkligen ska bära frukt.