Papa Leo XIV objavio je svoju prvu encikliku u ponedjeljak, nazvanu Magnifica Humanitas, koja se bavi “zaštitom ljudske osobe u doba umjetne inteligencije.” Iako je AI središnja tema, problemi na koje se Leo fokusira su stariji i sveprisutni: nejednakost, rat, erozija demokracije i koncentracija moći u rukama onih koji ne mare nužno za to hoće li čovječanstvo ostati veličanstveno.
U 200-straničnom dokumentu, koji je papa predstavio zajedno s Chrisom Olahom, suosnivačem Anthropic-a, Leo tvrdi da tehnologija koju grade i upravljaju mali elitni krugovi ne može, po definiciji, služiti općem dobru.
“Kada se takva moć koncentrira u rukama nekolicine, ona postaje neprozirna i izmiče javnom nadzoru, povećavajući rizik od iskrivljenih oblika razvoja koji dovode do novih ovisnosti, isključenja, manipulacija i nejednakosti,” piše.
“Uistinu, kao i kod svake velike tehnološke promjene, AI ima tendenciju pojačavanja moći onih koji već posjeduju ekonomske resurse, stručnost i pristup podacima,” nastavlja enciklika, ističući zabrinutosti da elite mogu koristiti svoju moć za “oblikovanje informacija i obrazaca potrošnje, utjecaj na demokratske procese i usmjeravanje ekonomskih dinamika u svoju korist.”
Enciklika dolazi nekoliko dana nakon što je predsjednik Donald Trump odgodio potpisivanje svog izvršnog naloga o AI, koji bi omogućio vladi nadzor nad novim modelima prije njihovog objavljivanja, navodno na poticaj VC investitora i bivšeg bijelog doma AI cara Davida Sacksa.
Papa Leo pozvao je na to da AI bude vođena “jasnim kriterijima i učinkovitim nadzorom” utemeljenim na sudjelovanju zajednica koje će biti pogođene. Konkretno, Leo je pozvao na prekid utrke u AI naoružanju “za još moćnije algoritme i veće skupove podataka” koje kompanije i zemlje vjeruju da će “osigurati geopolitičku ili komercijalnu dominaciju.”
“Rasoružati znači osporiti pretpostavku da tehnička moć automatski daje pravo na vlast,” napisao je.
Ove dinamike su prethodile AI-u. Papa Leo XIII u svojoj enciklici Rerum Novarum iz 1891. godine govorio je o istoj koncentraciji moći tijekom Industrijske revolucije, ali ne moramo se vraćati tako daleko. Kupovina Twittera od strane Elona Muska i korištenje platforme za pomoć u izboru Trumpa; stotine milijuna dolara koje tehnološke elite ulažu u super PAC-ove kako bi blokirale regulaciju AI — obrasci koji su očito inspirirali rad Lea XIV.
Papa dolazi do istog zaključka kao i mnogi drugi: nadrealna moć i sposobnosti današnje AI podižu ulogu na izuzetno visoku razinu.
Profesor pravnog fakulteta Notre Dame, Paolo Carozza, član Papinske akademije društvenih znanosti i predsjednik Meta Oversight Board-a, rekao je za TechCrunch da AI vođena dezinformacija i deepfakeovi “korodiraju našu sposobnost prepoznavanja što je istina, a što nije, a to doista ima posljedice za demokratsku politiku.” Praksa tehnološke industrije “berbe i manipulacije” ljudskim podacima, dodao je, predstavlja “temeljne izazove za kognitivnu slobodu.”
