Papeška enciklika o umjetnoj inteligenciji

Papa Leo XIV. u svojoj novoj enciklici o umjetnoj inteligenciji iznosi tvrdnju koja zahtijeva ozbiljnu pažnju tehnologa i donosioca odluka: “Tehnologija nikada nije neutralna.” Magnifica Humanitas (‘Magnificent Humanity’) poziva sve ljude da djeluju s hrabrošću i solidarnošću dok ulazimo u doba koje već transformira umjetna inteligencija, najveća promjena u ljudskom životu od Industrijske revolucije. Kako papa kaže, izbor pred nama—izbor koji AI nudi—je između kule Babilonske i obnove naše zajedničke ljudskosti.
U biblijskoj priči o Kuli Babilonskoj, ljudi su nastojali izgraditi ogromnu strukturu koja bi dosegnula Nebo, samo da bi im projekt bio onemogućen kada je Bog učinio da oni koji su sudjelovali ne mogu razumjeti jedni druge. To je bila potraga usmjerena na neprekidni rast, bez obzira na Božje zapovijedi ili ljudske troškove. Rezultat je bio neuspjeh i atomizacija.
Međutim, Knjiga Nehemijina nudi suprotstavljenu naraciju, u kojoj obnova Jeruzalema nakon razdoblja nasilja i raseljavanja postaje prilika za čovječanstvo da pokaže svoju suradničku otpornost. Kako enciklika navodi, “Grad se ponovo rađa, ne zahvaljujući inicijativi jednog čovjeka, već kroz zajedničku odgovornost svih: muškaraca, žena, svećenika, obrtnika, vođa domaćinstava i mladih, svi igraju ulogu. To je poduhvat s Bogom u središtu, koji obnavlja odnose prije nego što se obnove kamenjem.”
Postoji li ikakva sumnja kojim putem trenutno idemo? I može li postojati ikakva sumnja kojim bismo se putem trebali zajednički kretati?
Oba smo katolici, članovi vjerskih zajednica i dugogodišnji zagovornici u pokretu za društveno odgovorno ulaganje. Posebno nas zanima papa Leoov stav da AI nije neka sila prirode ili hiper racionalno, neuhvatljivo biće. Umjesto toga, on nas podsjeća, AI je na kraju još jedan komercijalni proizvod, koji se pojavljuje u povijesti kada je prekomjerna moć nad trgovinom i širim društvom akumulirana u iznimno malom broju ruku.
To je snažna poruka. Također, to je poruka na kojoj institucionalni investitori djeluju već godinama. Ova enciklika ne postavlja nova pravila, već ratificira napore u upravljanju koji su već u tijeku, vođeni ne državama ili međunarodnim tijelima, već dioničarima. Kada vlade ne uspiju značajno regulirati, a korporacije ne mogu biti pouzdane da čine ono što je korisno izvan vlastitog profita, ljudi u društvu još uvijek imaju moć postaviti nas na pravi put, a uistinu imamo i dužnost to učiniti.
U cijelom svijetu, AI sustavi se implementiraju na velikoj skali uz izuzetno malo institucionalnog nadzora. Nema odbora za sigurnost AI-a. Američka savezna trgovinska komisija ima nadležnost nad nepoštenim praksama, ali ograničena ovlaštenja nad algoritamskim dizajnom. Nacionalni institut za standarde i tehnologiju objavljuje smjernice koje većina tvrtki zanemaruje. EU zakon o AI-u je djelomično na snazi, ali se bavi samo malim dijelom površine implementacije.
Institucionalni investitori su ušli u ovu prazninu. Koalicije uključujući članstvo Interfaith Center on Corporate Responsibility, koje predstavlja investitore koji upravljaju imovinom u vrijednosti preko 400 milijardi dolara, proveli su posljednjih nekoliko sezona dioničkih odluka podnoseći rezolucije koje zahtijevaju transparentnost, procjenu rizika i odgovornost oko implementacije AI-a. Sekularni institucionalni investitori pridružili su se njima, tretirajući neuspjehe u upravljanju AI-om kao materijalne poslovne rizike.
Dioničari su pozvali tehnološke divove poput Alphabeta, Amazona, Nvidije, Palantira i Ubera na odgovornost i zahtijevali da AI ne bude korišten za djela nasilja ili druge povrede ljudskih prava. Važnost ovog aspekta korporativnog upravljanja tragično je naglašena u prvim satima rata protiv Irana, kada je AI korišten za pomoć u identifikaciji ciljeva za tisuće raketnih napada koji su ubili stotine ljudi.
Investitori su također izazvali izvršne direktore u CVS-u i UnitedHealth Grupi da osiguraju da AI ne bude korišten za potkopavanje dobrobiti pacijenata i kvalitete zdravstvene zaštite diljem Sjedinjenih Država.
U tvrtkama poput Mete i Microsofta, dioničari su kritikovali ekološki utjecaj AI centara podataka, koji troše velike količine energije i dragocenih vodnih resursa, a zauzvrat mogu ispuštati velike količine stakleničkih plinova.
U kreativnim industrijama, investitori su izazvali vodstvo u tvrtkama poput Disneyja, Netflixa i Warner Brosa da zahtijevaju transparentnost o načinima na koje koriste AI i da brane neponovljivi ljudski element u pričanju priča.
Uskoro će, s OpenAI-em, Anthropicom i Grokom koji ulaze na javna tržišta, moći ćemo ostvariti sličan utjecaj na ono što su sada sve privatne tvrtke.
Ove akcije zabrinutih investitora ne samo da ukazuju na loša postupanja, već se drže nepromjenjive istine: da je pogrešno koristiti tehnologiju za ubijanje, nanošenje štete ili potlačivanje ljudi. Svaka ljudska bića imaju pravo na sigurnu i učinkovitu zdravstvenu zaštitu i priliku za dostojanstven život. Priče koje si pričamo međusobno su važne i zahtijevaju ljudsku kreativnu iskru.
Zagovornici investitora dolaze iz različitih vjerskih tradicija. Neki nemaju formalnu religijsku vjeru. Ipak, u svom informiranom i upornom zagovaranju, svi ti ljudi odražavaju pozive sadržane u papinoj enciklici i djeluju na njezinu deklaraciju da “je od suštinske važnosti da uporaba AI-a, posebno kada se dotiče javnih dobara i temeljnih prava, bude vođena jasnim kriterijima i učinkovitim nadzorom.”
Enciklike označavaju vrijeme. Kako ćemo biti zapamćeni za to kako smo se suočili s ovim trenutkom? Hoćemo li biti viđeni kao previše plašljivi ili kratkovidni da spriječimo maloj grupi neizmjerno bogatih i sebičnih ljudi da preuzmu sve veću kontrolu nad zajedničkim sudbinama čovječanstva?
Ili će godine koje dolaze biti zapamćene kao prekretnica koja nam je pomogla obnoviti našu zajedničku ljudskost? Neka ovo bude vrijeme kada se ljudi dobre volje i raznolikih talenata okupljaju kroz svoju vlastitu veličanstvenu ljudskost kako bi izgradili budućnost koja poštuje našeg Stvoritelja.