Kada ozbiljno shvaćamo strahove vezane uz umjetnu inteligenciju? To je ključno pitanje pokušaja Elona Muska da zatvori poslovanje OpenAI-a. Njegovi odvjetnici tvrde da je organizacija osnovana kao dobrotvorna udruga usmjerena na sigurnost AI-a, ali da je skrenula s puta u potrazi za profitom. Kao dokaz navode stare e-poruke i izjave osnivača organizacije o potrebi za javnim protivtežom Google DeepMind-u.
Danas je pozvan jedini stručni svjedok koji se izravno bavi AI tehnologijom: Stuart Russell, profesor računalnih znanosti na Sveučilištu Kalifornija, Berkeley, koji proučava AI desetljećima. Njegov je zadatak bio pružiti osnovne informacije o AI-u i utvrditi da je ova tehnologija dovoljno opasna da zabrinjava.
Russell je u ožujku 2023. potpisao otvoreno pismo u kojem poziva na šestomjesečnu pauzu u istraživanju AI-a. U znaku kontradikcija, Musk je također potpisao isto pismo, iako je istovremeno pokretao xAI, svoju vlastitu laboratoriju za profit.
Russell je porotnicima i sutkinji Yvonne Gonzalez Rogers rekao da postoji niz rizika povezanih s razvojem AI-a, koji se kreću od prijetnji kibernetičkoj sigurnosti do problema s neusklađenošću i prirodom ‘pobjednika uzima sve’ u razvoju umjetne opće inteligencije (AGI). Na kraju je rekao da postoji napetost između potrage za AGI-em i sigurnosti.
Russellove šire zabrinutosti o egzistencijalnim prijetnjama nekontrolirane AI nisu bile iznesene na otvorenom suđenju nakon što su prigovori odvjetnika OpenAI-a doveli do ograničenja Russellova svjedočenja. No, Russell je dugogodišnji kritičar dinamičkog oružanog sukoba koji su stvorili laboratoriji širom svijeta koji se natječu da prvi postignu AGI, te je pozvao vlade da strože reguliraju ovo područje.
Odvjetnici OpenAI-a potrošili su svoje ispitivanje kako bi utvrdili da Russell nije izravno ocjenjivao korporativnu strukturu organizacije ili njezine specifične sigurnosne politike.
Ovaj novinar (kao i sutkinja i porotnici) će procjenjivati koliko vrijednosti pridati odnosu između korporativne pohlepe i zabrinutosti za sigurnost AI-a. Gotovo svi osnivači OpenAI-a snažno su upozoravali na rizike AI-a, istovremeno naglašavajući i prednosti, nastojeći izgraditi AI što brže — i smišljajući planove za profitne poduhvate vezane uz AI koje bi kontrolirali.
Iz vanjskog pogleda, očiti problem je sve veće shvaćanje unutar OpenAI-a nakon osnivanja da organizacija jednostavno treba više sredstava za računala kako bi uspjela. Taj novac mogao je doći samo od investitora s profitom. Strah temeljnog tima od AGI-a u rukama jedne organizacije natjerao ih je da traže kapital koji je na kraju razdvojio tim, stvarajući oružani sukob koji danas poznajemo — i dovodeći nas do ove tužbe.
Istodoban dinamika već se odvija na nacionalnoj razini: Pritisak senatora Bernieja Sandersa za zakon o moratoriju na izgradnju centara za podatke odražava strahove vezane uz AI koje su iznijeli Elon Musk, Sam Altman, Geoffrey Hinton i drugi. Hodan Omaar, koji radi u trgovinskoj organizaciji Centar za inovacije podataka, prigovorio je Sandersu zbog citiranja njihovih strahova bez njihovih nada, rekavši za TechCrunch da “nije jasno zašto bi javnost trebala odbaciti sve što kažu tehnološki milijarderi osim kada se njihovi govori mogu iskoristiti za popunjavanje praznina u nesigurnoj raspravi.”
Obje strane slučaja sada traže od suda da učini upravo to: ozbiljno shvati dio Argumenata Altman-a i Musk-a, ali odbaci dijelove koji su manje korisni za njihov pravni argument.
