U ponedjeljak je Mark Zuckerberg objavio manifest od 6,500 riječi o osobnoj umjetnoj inteligenciji, fokusirajući se na mogućnosti “osobne superinteligencije” koju Meta AI razvija. Ideje u ovom postu nisu potpuno nove. Verzija esseja objavljena je u Wall Street Journalu prije dva tjedna, a o njima je govorio i na prethodnim Meta pozivima za zaradu. No, ovo je vjerojatno najdetaljnija verzija koju je podijelio.
Ovaj tekst sam vidio opisivan kao antidoomer esej, ali to nije potpuno točno. Radi se više o opisu razloga zbog kojih je Mark Zuckerberg osobno uzbuđen zbog načina na koje će umjetna inteligencija promijeniti društvo. Ipak, dok pokušava slikati prekrasnu budućnost koju će donijeti superinteligencija, neprestano nas podsjeća na sve načine na koje bi to moglo poći po zlu.
Umjetna inteligencija me također uzbuđuje — zato stalno pišem o tome — ali velik dio javnosti vidi AI kao nešto zastrašujuće i neugodno. Stoga je važno razjasniti što se ovdje zapravo događa i zašto Zuckerberg ne pomaže industriji s ovakvim esejima.
Društveni mediji i dalje su osjetljiva tema u tehnološkoj industriji, a nemamo prostora za raspravu o svim pritužbama koje ljudi imaju na Facebook. Dovoljno je reći da je Facebook kao proizvod i Zuckerberg kao osoba nepopularni među američkom javnošću. Nedavna anketa pokazuje da 64% Amerikanaca vjeruje da su društveni mediji štetni za demokraciju, a sličan postotak vjeruje da bi trebali biti strože regulirani. Samo ovog vikenda, sud je kaznio tvrtku sa 567 milijuna dolara za štetu djeci. Atmosfera je loša.
Ne spominjem ovo da sugeriram da bi se Zuckerberg trebao povući u osamu u sramu — ali posljedice društvenih medija jedan su od glavnih razloga zašto vidimo toliko anksioznosti oko društvenog utjecaja AI. Bez obzira na to je li to pošteno ili ne, javnost ne vjeruje tehnološkim izvršiteljima da osiguraju pozitivan utjecaj novih tehnologija na društvo. Umjesto da to priznaje i pokuša povratiti njihovo povjerenje, ovaj esej neprestano pokazuje kako je to povjerenje izgubljeno.
Velik dio esseja posvećen je nejasnim generalizacijama o inteligenciji — vrlo sličnim onima koje su Zuckerberg i Dorsey koristili kada su govorili o slobodi govora. Evo jedne primjere:
Kada svatko dobije moćnije alate, svaka će osoba postati sposobnija oblikovati budućnost, a ne manje. … Ljudi i institucije s konkurentskim interesima prirodno se provjeravaju i uravnotežuju kako bi došli do pozitivnih ishoda. Najbolji i najrealniji put do izgradnje pozitivne AI budućnosti jest dostaviti superinteligenciju svima.
Mislim? Mogu se sjetiti nekoliko primjera sukobljenih interesa koji su doveli do loših ishoda, ali ostavimo to po strani. Čudnije je da se ovo predstavlja kao iskren filozofski zaključak, umjesto specifičnog proizvoda pod nazivom “osobna inteligencija” koji Meta donosi na tržište. Ako već smatrate da ovoj osobi ne možete vjerovati, možete se zabrinuti da sve ovo pišu kako bi uvjerili sebe da se ništa loše ne može dogoditi.
To osjećanje postalo je intenzivnije kada je Zuckerberg došao do konkretnih primjera, od kojih su mnogi alarmantno odvojeni od stvarnosti kako se alati AI koriste. Na primjer, ovo je Zuckerbergov stav o AI u obrazovanju:
Svi će imati personaliziranog tutora i trenera s doktoratom iz svake teme i neograničenom strpljenjem da vam pomognu naučiti sve što želite. Studenti će imati dodatnu pomoć u područjima gdje im je potrebna, koja je trenutno dostupna samo onima čiji roditelji mogu platiti. Odrasli će imati superinteligentnog asistenta za učenje koji točno zna kako vas poučiti novim vještinama, novim jezicima, novim hobijima ili bilo čemu drugom što vas zanima.
Naravno, proizvod koji Zuckerberg opisuje već postoji: Ovo su potrošački chatbotovi poput ChatGPT-a, Claude-a i Gemini-a. Ovi alati su zaista korisni ako želite naučiti o određenoj temi, ali glavni način na koji se koriste u obrazovanju je da izbjegnu učenje, jer vaš personalizirani tutor može raditi domaće zadatke i pisati dodijeljene eseje — a budući da ne postoji robustan sustav označavanja, učitelji ne mogu biti sigurni koji su eseji generirani AI-jem.
Ovo je prilično niska cijena primjera štete od AI, ali to je stvarna stvar koja se događa sada. Ponekad dizajnirate tehnologiju da čini dobre stvari, a ona ima neželjene posljedice koje pogoršavaju stanje. I činjenica da jedna od najmoćnijih osoba na svijetu odbija to priznati može učiniti ljude razumljivo nervoznima!
Zuckerberg također daje primjer kako će AI promijeniti pravni sustav na bolje:
Kao misaoni eksperiment, zamislite da samo jedna osoba ima superinteligentnog odvjetnika. Imali bi nepravednu prednost na sudu — čak i ako su pogrešni u meritumu. To bi dovelo do lošijeg društva. Ali sada zamislite da svi imaju superinteligentnog odvjetnika. U ovom slučaju, pravda bi se provodila mnogo pravednije i učinkovitije nego danas kada često postoji neravnoteža u vještinama i resursima u parnicama.
Ponovno, to je opterećen primjer. Naravno, pristup pravnom AI-u mogao bi dovesti do pravednijeg društva, ali također bi mogao dodati više složenosti u već postojeći birokratski kaos. Ili bi mogao osloboditi novu val obrtnika parnica koji samo zagušuju sustav pravnim ekvivalentom spama. Teško je osjećati se smireno oko ovih stvari, a činjenica da se Zuckerberg ne brine čini me više zabrinutim.
Na drugim mjestima, čak i opisi Meta-ovih postojećih poslovnih praksi počinju poprimati čudno apstraktni karakter. Na primjer, ovako Zuckerberg opisuje Meta-ovu predanost freemium modelu:
Svi će imati besplatan ili pristupačan pristup ovim alatima. … Ponudit ćemo besplatne verzije koje će biti dostupne milijardama ljudi. Za one koji žele platiti za korištenje više računalne snage, postojat će dinamički mehanizam aukcije koji će jamčiti da svi dobiju najnižu moguću cijenu za inteligenciju i snagu koju koriste, dok također osigurava da se kapacitet koristi za ono što ljudi kolektivno smatraju najvrednijim. To će osigurati da se prednosti superinteligencije široko distribuiraju.
U širokim crtama, slažem se sa svime što ovdje kaže. Zuckerberg je u pravu da je pristup problem, i u pravu je da freemium model omogućuje veći pristup nego zahtijevanje da svi plate unaprijed za računalnu snagu. Dinamična tržišta za trenutnu snagu već postoje, tako da nije kao da zamišlja nešto potpuno izvan norme. Ali postoji razlog zašto svaki potrošački AI proizvod izolira krajnje korisnike od trenutne cijene računalne snage koju koriste. Cjenovni udari su užasno korisničko iskustvo, osobito kada se primjenjuju na alat na kojem zapravo ovisite za svoj rad.
Ponovno, moram pretpostaviti da Zuckerberg to zna i da zapravo ne planira postaviti cijene putem dinamičkih aukcija. No, sada sam zapravo manje siguran u to nego što sam bio prije nego što sam pročitao ovaj članak.
Postoje bolji načini za razgovor o ovim stvarima. Unatoč svim svojim manama, Sam Altman i Dario Amodei rade prilično dobar posao kada izravno komuniciraju s javnošću. Oni rade upravo ono čemu se Zuckerberg ovdje protivi: priznajući opasnosti AI-a, naglašavajući svoje mjere opreza i pokušavajući uvjeriti slušatelje da im se može vjerovati.
Ta komunikacija može učiniti samo toliko. Ponekad (posebno nedavno), mjere zaštite ne uspijevaju i inherentna opasnost cijelog poduhvata postaje jasna. No bez nekakvog izgradnje povjerenja, industrija možda neće uvijek moći preživjeti te neuspjehe.
