Šef OpenAI Sam Altman izjavio je da je čovječanstvo prešlo u eru umjetne superinteligencije – i da nema povratka.
“Prošli smo događajni horizont; uzlet je započeo,” kaže Altman. “Čovječanstvo je blizu izgradnje digitalne superinteligencije, a barem do sada, to je mnogo manje čudno nego što bi se moglo očekivati.”
Nedostatak vidljivih znakova – roboti još ne hodaju našim ulicama, bolesti nisu osvojene – prikriva ono što Altman karakterizira kao duboku transformaciju koja se već odvija. Iza zatvorenih vrata tehnoloških tvrtki poput njegove, pojavljuju se sustavi koji mogu nadmašiti opću ljudsku inteligenciju.
“U nekom velikom smislu, ChatGPT je već moćniji od bilo kojeg čovjeka koji je ikada živio,” tvrdi Altman, ističući da “stotine milijuna ljudi oslanja na njega svaki dan i za sve važnije zadatke.”
Ova opservacija ukazuje na zabrinjavajuću stvarnost: takvi sustavi već imaju ogroman utjecaj, a i manji nedostaci mogu uzrokovati široku štetu kada se pomnože kroz njihovu veliku korisničku bazu.
Put do superinteligencije
Altman izlaže vremenski okvir prema superinteligenciji koji bi mogao mnoge čitatelje natjerati da provjere svoje kalendare.
Do sljedeće godine očekuje “dolazak agenata koji mogu obavljati stvarni kognitivni rad,” što će osnovno transformirati razvoj softvera. Sljedeća godina mogla bi donijeti “sustave koji mogu otkriti nove uvide” – što znači AI koji generira originalna otkrića umjesto da samo obrađuje postojeće znanje. Do 2027. mogli bismo vidjeti “robote koji mogu obavljati zadatke u stvarnom svijetu.”
Svaka predikcija čini se da nadmašuje prethodnu po sposobnostima, povlačeći liniju koja neumoljivo ukazuje prema superinteligenciji – sustavima čija intelektualna kapacitet daleko nadilazi ljudski potencijal u većini područja.
“Ne znamo koliko daleko možemo otići izvan ljudske inteligencije, ali uskoro ćemo saznati,” kaže Altman.
Ova progresija izazvala je žestoke rasprave među stručnjacima, s nekima koji tvrde da su te sposobnosti i dalje desetljećima daleko. Ipak, Altmanov vremenski okvir sugerira da OpenAI ima unutarnje dokaze za ovaj ubrzani put koji još nije javno poznat.
Povratna sprega koja mijenja sve
Ono što trenutni razvoj AI čini jedinstveno zabrinjavajućim je ono što Altman naziva “larvalnom verzijom rekurzivne samopoboljšanja” – sposobnost današnjeg AI da pomaže istraživačima u izgradnji sutrašnjih moćnijih sustava.
“Napredni AI je zanimljiv iz više razloga, ali možda ništa nije značajnije od činjenice da ga možemo koristiti za brže istraživanje AI,” objašnjava. “Ako možemo obaviti deset godina istraživanja u godini ili mjesecu, tada će brzina napretka očito biti veoma različita.”
Ova akceleracija se kumulira dok se više povratnih petlji isprepliće. Ekonomska vrijednost potiče razvoj infrastrukture, što omogućuje moćnije sustave, koji generiraju veću ekonomsku vrijednost. U međuvremenu, stvaranje fizičkih robota sposobnih za proizvodnju više robota moglo bi stvoriti još jedan eksplozivan ciklus rasta.
“Brzina novih čuda koja se postižu bit će ogromna,” predviđa Altman. “Teško je čak i zamisliti što ćemo otkriti do 2035. godine; možda ćemo od rješavanja visoke energetske fizike jedne godine preći na početak kolonizacije svemira sljedeće godine.”
Takve tvrdnje zvučale bi kao hiperbola od gotovo bilo koga drugoga. Dolazeći od čovjeka koji nadzire neke od najnaprednijih AI sustava na planetu, zahtijevaju barem malo razmatranja.
Život uz superinteligenciju
Unatoč potencijalnom utjecaju, Altman vjeruje da će mnogi aspekti ljudskog života zadržati svoje poznate konture. Ljudi će i dalje oblikovati značajne odnose, stvarati umjetnost i uživati u jednostavnim zadovoljstvima.
Ali ispod tih konstanti, društvo se suočava s dubokim poremećajem. “Cijele klase poslova” će nestati – potencijalno brzinom koja nadilazi našu sposobnost stvaranja novih uloga ili prekvalifikacije radnika. Srebrna obloga, prema Altmanu, jest da “svijet će postati toliko bogat brže da ćemo moći ozbiljno razmatrati nove političke ideje koje nikada prije nismo mogli.”
Za one koji se bore zamisliti ovu budućnost, Altman nudi misaoni eksperiment: “Poljoprivrednik iz prošlog tisućljeća bi gledao na ono što mnogi od nas rade i rekli bi da imamo lažne poslove i mislili bi da se samo igramo kako bismo se zabavili budući da imamo dovoljno hrane i nezamislive luksuze.”
Naši potomci mogli bi sličnim čuđenjem gledati na naše najprestižnije profesije.
Problem usklađenosti
Usred ovih predikcija, Altman identificira izazov koji drži istraživače sigurnosti AI budnima noću: osigurati da sustavi superinteligencije ostanu usklađeni s ljudskim vrijednostima i namjerama.
Altman ističe potrebu da riješimo “problem usklađenosti, što znači da možemo čvrsto jamčiti da naši AI sustavi uče i djeluju prema onome što mi kolektivno stvarno želimo dugoročno.” Suprotstavlja to s algoritmima društvenih mreža koji maksimiziraju angažman iskorištavanjem psiholoških ranjivosti.
Ovo nije samo tehničko pitanje, već egzistencijalno. Ako superinteligencija nastane bez čvrste usklađenosti, posljedice bi mogle biti razorne. Ipak, definiranje “onoga što mi kolektivno stvarno želimo” bit će gotovo nemoguće u raznolikom globalnom društvu s konkurentskim vrijednostima i interesima.
“Što prije svijet može započeti razgovor o tome što su ti široki okviri i kako definiramo kolektivnu usklađenost, to bolje,” potiče Altman.
OpenAI gradi globalni mozak
Altman je više puta karakterizirao ono što OpenAI gradi kao “mozak za svijet.”
Ovo nije metaforički. OpenAI i njegovi konkurenti stvaraju kognitivne sustave namijenjene integraciji u svaki aspekt ljudske civilizacije – sustave koji, prema Altmanovom vlastitom priznanju, nadmašuju ljudske sposobnosti u različitim područjima.
“Inteligencija je preslaba da bi se mjerila, to je nadohvat ruke,” kaže Altman, sugerirajući da će superinteligentne sposobnosti na kraju postati sveprisutne i pristupačne poput električne energije.
Za one koji odbacuju takve tvrdnje kao znanstvenu fantastiku, Altman podsjeća da su prije samo nekoliko godina današnje AI sposobnosti izgledale jednako nevjerojatno: “Ako smo vam 2020. rekli da ćemo biti tu gdje smo danas, vjerojatno bi zvučalo luđe nego naše trenutne predikcije o 2030.”
Dok AI industrija nastavlja svoj put prema superinteligenciji, Altmanova završna želja – “Nadam se da ćemo se glatko, eksponencijalno i bez incidenata kretati kroz superinteligenciju” – zvuči manje kao predikcija, a više kao molitva.
Iako se vremenski okviri mogu (i hoće) raspravljati, šef OpenAI jasno stavlja do znanja da utrka prema superinteligenciji ne dolazi – ona je već ovdje. Čovječanstvo se mora suočiti s tim što to znači.
