Niall Firth: Pozdrav svima i dobrodošli u ovu posebnu ediciju Roundtables. Ovo su naši događaji samo za pretplatnike, gdje možete slušati razgovore između urednika i novinara. Danas imamo fantastičan događaj. Rado bih predstavio našu prodigalnu kćer, Karen Hao, sjajnu novinarku o umjetnoj inteligenciji, koja je ovdje s nama da razgovara o svojoj novoj knjizi. Pozdrav, Karen, kako si?
Karen Hao: Dobro. Hvala ti što si me ponovno pozvao, Niall.
Niall Firth: Drago mi je što si ovdje. Siguran sam da svi znate Karen, a to je razlog zašto ste ovdje. Da vam dam kratak pregled, Karen ima diplomu iz strojarstva s MIT-a. Bila je viša urednica za AI u MIT Technology Review i osvojila je brojne nagrade, citirana je u Kongresu, pisala je za Wall Street Journal i The Atlantic, te je osnovala seriju na Pulitzer centru kako bi podučila novinare kako izvještavati o AI. No, najvažnije je da je ovdje da razgovara o svojoj novoj knjizi, ‘Empire of AI’. Engleska verzija ima podnaslov ‘Unutra u nemarnoj utrci za totalnu dominaciju’, dok se američka verzija, vjerujem, zove ‘Snove i noćne more u OpenAI Sam Altmana’.
Knjiga je postala senzacija, na vrhu New York Timesove ljestvice. Nevjerojatan izvještaj – 300 intervjua, uključujući 90 s ljudima unutar OpenAI. I to je briljantan uvid ne samo u uspon OpenAI-a i karakter Sam Altmana, koji je vrlo zanimljiv, već i u to kakvu umjetnu inteligenciju gradimo i tko drži ključeve.
Karen, srž knjige, uspon OpenAI-a, bila je jedna od tvojih prvih velikih priča u MIT Technology Review. To je briljantna priča koja je prvi put otkrila što se događa u OpenAI… i oni su to jako mrzili, zar ne?
Karen Hao: Da, i prije svega, hvala svima što ste ovdje. Uvijek je lijepo biti kod kuće. I dalje smatram MIT Tech Review svojim novinarskim domom, a tu priču sam napisala jer me Niall zadužio nakon što sam rekla: ‘Izgleda da je OpenAI zanimljiva stvar’, a on je rekao da ih treba profilirati. Nikada prije nisam pisala profil o kompaniji i nisam mislila da ću to moći, ali Niall je vjerovao da ću to moći. Tako da se to zapravo dogodilo zahvaljujući njemu.
Ušla sam u priču s otvorenim umom – htjela sam razumjeti što je OpenAI. Osnovali su se kao neprofitna organizacija s misijom da osiguraju da umjetna opća inteligencija koristi cijelom čovječanstvu. Što to znači? Kako to pokušavaju postići? Kako balansiraju između misije i potrebe za prikupljanjem novca i kapitala?
Tokom tri dana provedenih unutar kompanije, intervjuirala sam brojne ljude izvan kompanije i shvatila sam da postoji temeljna diskonekcija između onoga što javno tvrde i načina na koji djeluju. To je ono na što sam se fokusirala i zbog čega nisu bili zadovoljni.
Niall Firth: Kako si primijetila da se OpenAI promijenio od tada? Čini se da je ta neskladnost postala kompliciranija tijekom godina, zar ne?
Karen Hao: Apsolutno. Čini se da je OpenAI postao jedna od najkapitalističkijih korporacija u Silicijskoj dolini. Nedavno su prikupili 40 milijardi dolara, u najvećem privatnom financiranju u povijesti tehnološke industrije. Procijenjeni su na 300 milijardi dolara. I dalje tvrde da su prije svega neprofitna organizacija.
Niall Firth: U knjizi citiraš Sam Altmana koji kaže da je utrka za AGI motivirala mnoge odluke. Spominješ kako to uspoređuje s Manhattan projektom za AI. Kako to utječe na ono što rade?
Karen Hao: To je vrlo ključno pitanje. Odluka koju su donijeli u ranim danima povijesti OpenAI-a dovela je do napredovanja AI tehnologija koje danas dominiraju tržištem. Odlučili su unaprijediti AI kroz skaliranje postojećih tehnika. U to vrijeme, to je bila vrlo nepopularna perspektiva unutar šireg AI istraživačkog polja.
Niall Firth: Očito, postavili su se na stranu skaliranja umjesto inovacija.
Karen Hao: U pravu si. Ova odluka je omogućila brzo napredovanje uz konkurenciju s Googleom, koji je imao monopol na AI talente. OpenAI je znao da ne mogu pobijediti Google jednostavno pokušavajući doći do istraživačkih proboja. Skaliranje je linearno i omogućuje brze dobitke.
Niall Firth: To je bio uspješan pristup, zar ne? Uistinu, postigli su nevjerojatne proboje.
Karen Hao: Da, ali postoji i značajan trošak povezan s tim putem. Postoje mnogi drugi načini za napredovanje AI, a mogli smo dobiti sve te koristi bez ovako potrošačkog pristupa razvoju.
Niall Firth: Hoće li se to pogoršati u budućnosti?
Karen Hao: Apsolutno. Prema McKinseyjevom izvješću, ako nastavimo ovim tempom, trebali bismo dodati do šest puta više energije nego što trenutno troši Kalifornija. Već se ubrzavamo prema klimatskoj krizi, a i javnozdravstvenoj krizi.
Niall Firth: O čemu se radi u tvojoj knjizi vezano uz kolonijalni pristup AI-u?
Karen Hao: Razmišljala sam o tome dok sam radila na seriji AI kolonijalizma. Komercijalizacija AI-a već je dovela do reintegracije povijesnih nejednakosti u današnje vrijeme.
Niall Firth: Možeš li navesti konkretne primjere?
Karen Hao: Da, jedan od primjera je kako su kompanije za prepoznavanje lica pokušavale prikupiti podatke iz Južne Afrike, unatoč kritikama da njihova tehnologija nije točno prepoznavala crna lica. To je dovelo do digitalnog apartheida.
Niall Firth: Zanimljivo. Kako se to odnosi na tvoje viđenje budućnosti AI-a?
Karen Hao: Trebamo razvijati AI na način koji je etičniji i ne uključuje eksploataciju resursa ili rada. Ključ je u stvaranju alternativa. Potrebno je više etičkih rješenja unutar AI industrije.
Niall Firth: Na čemu bi se trebali fokusirati mladi AI znanstvenici?
Karen Hao: Trebali bi raditi na razvoju alternativa i etičkih rješenja. Potrebna su im sredstva i podrška za izgradnju etičnijih modela.
