Dok projekti poput Pacing the Frontier traže načine kako održati sigurnost istraživanja umjetne inteligencije, modeli otvorenih težina postali su problem za industriju. Slobodna distribucija i malo kontrole nad njihovom upotrebom otežavaju upravljanje ovim modelima, što neke laboratorije doživljava kao zastrašujuće.
Na konferenciji Ai4 u Las Vegasu prošli tjedan, trojica najuglednijih istraživača umjetne inteligencije — dobitnik Nobelove nagrade Geoffrey Hinton, izvršni direktor i suosnivač World Labs Fei-Fei Li i suosnivač Coursera Andrew Ng — iznijeli su svoje stavove o ovom pitanju. Iako su se razlikovali u određenim taktikama, svi su se složili da je važno održati otvorenost AI-a.
Njihova je zajednička briga bila dopuštanje nekolicini velikih AI kompanija da kontroliraju tempo napretka. Kada nekoliko tvrtki kontrolira pristup tehnologiji, kao što to rade Apple i Google s mobilnim operativnim sustavima, inovacije mogu usporiti, a kompanije koje kontroliraju platforme mogu utjecati na to što se na njima gradi.
Andrew Ng izrazio je zabrinutost zbog slične dinamike koja se može pojaviti u AI-u. “Ne želim da postoje čuvari”, rekao je Ng. “To ograničava kako svi mi možemo pristupiti AI-u.”
Kompanije imaju poticaj da štite svoje konkurentske prednosti, uključujući utjecaj na pravila koja reguliraju industriju. To može stvoriti situaciju u kojoj samo najveće i kapitalizirane tvrtke imaju resurse za izgradnju najnaprednijih AI sustava.
Ngovo rješenje bilo je održavanje više pružatelja, s modelima i tvrtkama koje se natječu, umjesto da nekolicina igrača dominira poljem. “Ako bih trebao dati jedan savjet, to bi bilo promoviranje otvorenosti”, rekao je Ng, “jer je AI nevjerojatna tehnologija i želim da bude dostupna svima.”
No, ne slažu se svi da bi modeli otvorenih težina pomogli očuvanju tog stanja. Hinton je posebno istaknuo razliku između otvorenog softvera, koji omogućava pregled i izmjenu koda, i modela otvorenih težina, koji javnosti objavljuju parametre treniranog AI modela.
“Otvoreni izvor je odličan. Pokazujete ljudima kod, i mnogi pregledavaju linije koda i kažu: ‘Oh, ima greška.’ Otvorene težine znače da obučete veliki model i zatim date ljudima težine. To je vrlo različito,” rekao je Hinton. “Protiv sam otvorenih [težina] jer olakšava ljudima da uzmu ove velike temeljne modele, koji su vrlo skupi za obučavanje, i za mnogo manje novca ih treniraju za loše stvari poput kibernetskih napada.”
Unatoč svojim rezervama, Hinton je priznao da su modeli otvorenih težina već trajni dio AI. “Mislim da je ta bitka izgubljena. Sada imamo modele otvorenih težina, tako da je barijera za mnoge ljude da dobiju ove velike modele, koja je bila cijena obučavanja temeljnih modela, nestala. Prekasno je.”
Hinton je također naglasio da će AI nastaviti napredovati, što smatra dobrim. Rekao je da će povećati produktivnost i poboljšati obrazovanje i zdravstvo. “Briga o mogućim lošim učincima AI-a i stvarima koje bi inteligentna bića mogla učiniti kada su pametnija od nas nije nepravedna,” dodao je Hinton.
Ng je imao drugačiji stav. Pitanje, tvrdio je, nije je li otvoreni modeli rizični, već tko kontrolira pristup i tko će pobijediti na tržištu. Tko god izgradi jeftiniji model imat će prednost. Ako se modeli otvorenih težina iz Kine široko usvoje u Aziji, Africi ili zemljama u razvoju, upozorio je, mogli bi utjecati na to kako milijarde ljudi doživljavaju ideje o demokraciji, slobodi i ljudskim pravima.
“Jedna od stvari koju se nadam da ćemo učiniti je poticati konkurentnost u Americi i otvoreni AI. Ispostavilo se da je AI ogroman izvor mekog utjecaja. Možete vidjeti kako je kineski model postigao ogroman uspjeh s Afrikom, na primjer,” rekao je Ng. “Moja briga je da zbog lobiranja u SAD-u i strahovanja, izgradnja otvorenog AI-a u Americi teško se natječe s modelima otvorenih težina iz Kine, a moja briga je da ako Kina pronađe fundamentalno isplativiji način izgradnje AI-a, tada stvari koje su isplativije imaju temeljnu prednost u prihvaćanju poslovanja.”
Li se usprotivila toj tvrdnji. “Veoma je opasno napraviti ovu dihotomiju između potpune otvorenosti i potpune zatvorenosti,” rekla je. “U složenim softverskim sustavima, kao i u znanstvenim sustavima, to je mnogo nijansiranije.”
Li je kao primjer navela nuklearnu fiziku: znanstveni radovi objavljuju se otvoreno, ali je uranij reguliran, dok laboratorijski rad pada negdje između. Lekcija koju je objasnila je da otvorenost ne mora biti izbor između sve ili ništa. Različiti slojevi ekosustava mogu djelovati na različitim razinama otvorenosti.
Također je istaknula suradnje između javnih i privatnih institucija, poput Projekta ljudskog genoma. Dobiveno znanje postalo je platforma na kojoj su drugi mogli graditi, rekla je, omogućujući farmaceutskim tvrtkama da ostvaruju profit, znanstvenicima da unaprijede svoj rad i društvu da ima koristi.
“Dakle, mislim da moramo koristiti [AI] kao tu vrstu infrastrukture,” rekla je Li. “Trebamo određene razine otvorenosti, kako u znanstvenim otkrićima, tako i u obrazovanju, globalnom partnerstvu, kao i unosnim poslovnim modelima za poduzetnike. No, također ćemo prihvatiti zatvorene sustave. Ova rasprava, posebno na razini ‘možemo tolerirati samo jedno’, je lažna rasprava. Moramo doći do razine nijansiranosti.”
Svi su se složili da će biti potrebna određena razina regulacije kako bi se AI zadržao na pravom putu. “Ono što želimo je razvijati AI u smjeru koji pomaže ljudima, a regulacija će nam pomoći u tome,” rekao je Hinton. “Ne možete to prepustiti ljudima poput Elona Muska i Marka Zuckerberga da odluče kako bi AI trebao funkcionirati.”
