Razgovor o umjetnoj inteligenciji u Sjedinjenim Državama postao je hitna tema nakon što je Washington prekinuo odnose s tvrtkom Anthropic. U međuvremenu, bipartisan koalicija mislioca okupila je ključne stavove o tome kako bi odgovoran razvoj umjetne inteligencije trebao izgledati.
Pro-Human Deklaracija finalizirana je prije prošlotjednog sukoba između Pentagona i Anthropic-a, a obadvije situacije nisu prošle nezapaženo među uključenima.
“U posljednja četiri mjeseca dogodilo se nešto doista izvanredno u Americi”, rekao je Max Tegmark, fizičar i istraživač umjetne inteligencije s MIT-a, koji je pomogao organizirati ovaj projekt. “Ankete pokazuju da 95% Amerikanaca protivi neuređenoj utrci prema superinteligenciji.”
Objavljen dokument, koji su potpisali stotine stručnjaka, bivših dužnosnika i javnih figura, započinje jasnim upozorenjem da se čovječanstvo nalazi na raskrižju. Jedna staza, koju deklaracija naziva “utrka zamjene”, vodi do potiskivanja ljudi kao radnika, a zatim i kao donosioca odluka, dok se moć akumulira u neodgovornim institucijama i njihovim strojevima. Druga staza vodi do umjetne inteligencije koja značajno proširuje ljudski potencijal.
Druga opcija ovisi o pet ključnih stupova: zadržavanju ljudi na čelu, izbjegavanju koncentracije moći, zaštiti ljudskog iskustva, očuvanju individualnih sloboda i pravnoj odgovornosti tvrtki koje se bave AI-jem. Među njenim snažnijim odredbama je izričita zabrana razvoja superinteligencije dok ne postoji znanstveni konsenzus da se to može učiniti sigurno i uz istinsku demokratsku podršku; obavezni prekidači na moćnim sustavima; i zabrana arhitektura koje su sposobne za samoreplikaciju, autonomno poboljšanje ili otpor prema gašenju.
Objava deklaracije dolazi u trenutku kada je njena hitnost lakše razumjeti. Na posljednji petak u veljači, ministar obrane Pete Hegseth proglasio je Anthropic, čija AI već radi na klasificiranim vojnim platformama, “rizikom u opskrbnom lancu” nakon što je tvrtka odbila Pentagonu dati neograničenu upotrebu svoje tehnologije. Satima kasnije, OpenAI je sklopio vlastiti sporazum s Ministarstvom obrane, za koji pravni stručnjaci kažu da će biti teško provesti na značajan način. Sve to otkriva koliko je skupa postala neaktivnost Kongresa po pitanju AI-a.
Kako je Dean Ball, viši suradnik Zaklade za američke inovacije, rekao za The New York Times, “Ovo nije samo spor oko ugovora. Ovo je prvi razgovor koji smo imali kao zemlja o kontroli nad AI sustavima.”
Tegmark se poslužuje analogijom koju većina ljudi može razumjeti. “Nikada ne morate brinuti da će neka farmaceutska tvrtka objaviti lijek koji uzrokuje goleme štete prije nego što se utvrdi kako ga učiniti sigurnim”, rekao je, “jer FDA neće dopustiti njihovo objavljivanje dok ne bude dovoljno sigurno.”
Sukobi u Washingtonu rijetko generiraju javni pritisak koji mijenja zakone. Umjesto toga, Tegmark smatra da je sigurnost djece točka pritiska koja bi mogla razbiti trenutni zastoj. Deklaracija poziva na obavezno testiranje AI proizvoda prije njihovog uvođenja, osobito chatbotova i aplikacija za mlade korisnike, pokrivajući rizike uključujući povećanu suicidalnu ideaciju, pogoršanje mentalnih zdravstvenih stanja i emocionalnu manipulaciju.
“Ako neki čudni starac šalje poruke 11-godišnjaku pretvarajući se da je mlada djevojka i pokušava uvjeriti dječaka da počini samoubojstvo, taj čovjek može otići u zatvor zbog toga”, rekao je Tegmark. “Već imamo zakone. To je ilegalno. Pa zašto bi to bilo drugačije ako to radi stroj?”
Vjeruje da će, kada se uspostavi načelo testiranja prije objavljivanja za proizvode za djecu, opseg gotovo neizbježno rasti. “Ljudi će doći i reći — hajde da dodamo još nekoliko zahtjeva. Možda bismo trebali testirati da ovo ne može pomoći teroristima da prave biološko oružje. Možda bismo trebali testirati da superinteligencija nema sposobnost svrgavanja američke vlade.”
Nije mala stvar da su bivši savjetnik Trumpa Steve Bannon i Susan Rice, savjetnica za nacionalnu sigurnost predsjednika Obame, potpisali isti dokument — zajedno s bivšim predsjednikom Zajedničkog stožera Mikeom Mullenom i progresivnim vođama vjere.
“Ono što se slažu, naravno, je da su svi oni ljudi”, kaže Tegmark. “Ako će se raditi o tome želimo li budućnost za ljude ili budućnost za strojeve, naravno da će biti na istoj strani.”
