Mark Zuckerberg objavio je članak u WSJ-u u kojem tvrdi da superinteligencija mora doći do pojedinaca, a ne samo do nekolicine institucija.
Šef Mete objavio je ovaj tekst kao izjavu filozofije tvrtke, a ne kao najavu proizvoda. U njemu nema datuma izlaska, referentnih brojki niti imenovanih modela. Ono što sadržava jest argument da je središnje pitanje s kojim se industrija suočava ne pitanje hoće li superinteligencija doći, već tko će je koristiti nakon što dođe.
Zuckerberg vjeruje da je izbor binaran: sustavi koncentrirani unutar malog broja institucija ili sustavi raspoređeni kao alati koje pojedinci izravno kontroliraju. On svoju preferiranu verziju naziva “osobnom superinteligencijom” i obvezuje Metu da radi na tome prema tri izjavljenja principa: osnaživanje pojedinaca kao izvor prosperiteta, izum kao primarnu svrhu superinteligencije i ravnoteža moći kao temelj sigurnosti.
Meta se suprotstavlja rivalima u AI superinteligenciji
Članak više kritizira ton industrije nego opisuje vlastiti tehnički rad Mete.
Zuckerberg piše da je “iznenađujuće da je diskurs mnogih koji razvijaju umjetnu inteligenciju tako ispunjen propasti”, te se pita zašto bi netko tko je uvjeren da će AI “eliminirati većinu poslova i učiniti ljudsku relevantnost manje važnom” požurio u izgradnju toga.
On ide dalje, nazivajući ideju da opasnosti od AI opravdavaju koncentraciju moći u nekoliko ruku “opasnom” i dodaje da “nada da će apsolutna moć dobrohotno brinuti o čovječanstvu, ako je dovoljno prosvijetljena, nije dovela do sigurnih ili pozitivnih ishoda.”
Nijedna od laboratorija koje opisuje nije imenovana u tekstu, no sigurno će čitatelji sami popuniti tu prazninu. Ono što članak uspostavlja jest pozicioniranje: Meta se želi predstaviti kao tvrtka koja se zalaže za široku distribuciju nasuprot području koje karakterizira kao sklonost centralizaciji.
Kako bi ilustrirao svoju poantu, Zuckerberg traži od čitatelja da zamisle jednu osobu s pristupom superinteligentnom pravniku, koja stječe “nepoštenu prednost na sudu—čak i ako je njegov stav bio pogrešan po meritumu,” što bi, kako kaže, “dovelo do lošijeg društva.”
Međutim, Zuckerberg zatim preokreće scenarij: svatko ima superinteligentnog pravnika, a “pravda bi se provodila mnogo pravednije i učinkovitije nego danas.”
To je misaoni eksperiment, a ne implementacija. U izvoru nema referenci na pilot programe, sudske sustave ili partnere za pravne usluge, a članak se treba čitati kao analogija koja podržava Zuckerbergovu širu tvrdnju da široki pristup provjerava koncentraciju moći, a ne kao opis nečega što je Meta izgradila ili testirala.
U op-ed-u se također pravi razlika između tipova rizika, što je korisno za svakoga tko pokušava shvatiti što Meta smatra upravljivim, a što zahtijeva vanjsku koordinaciju.
Na kraju, Zuckerberg zaključuje izjavom da “Meta je predana izgradnji s principima osnaživanja pojedinaca, izuma i ravnoteže moći,” što je izjava namjere, a ne putokaz. Članak postavlja gdje Zuckerberg želi da se rasprava odvija, ali ne navodi što će Meta isporučiti, kada, ili pod kojim uvjetima upravljanja.
