Sanders i Casar žele zabraniti umjetnu superinteligenciju

Najava, a ne važeći zakon

Sanders i Casar predstavili su temeljne elemente prijedloga pod nazivom Ban Artificial Superintelligence Act, ali ne i cjelovit zakonodavni tekst. To je važna razlika. Objavljeni sažetak pokazuje političku namjeru i moguću arhitekturu nadzora, no ne otkriva sve iznimke, prijelazne rokove, tehničke kriterije ni postupke žalbe. Najava zato ne zaustavlja razvoj postojećih modela niti stvara novu kaznenu odgovornost. Da bi postala pravo, inicijativa bi morala biti formalno predstavljena i proći oba doma Kongresa te dobiti predsjednički potpis.

Politički signal ipak je snažan. Dosadašnje američke rasprave uglavnom su se usredotočivale na obvezna testiranja, izvještavanje, izvozne kontrole i pravila uporabe. Sandersov i Casarov pristup ide dalje: za jednu bi kategoriju sustava propisao trajnu zabranu, a za širu kategoriju naprednog AI-ja privremenu obustavu. Axios i Washington Post navode da u trenutku objave nije bilo jasno postoji li potpora potrebna za prolazak prijedloga. Strogoća zamisli zato je trenutačno važnija kao znak promjene političkog prostora nego kao neposredna tržišna zabrana.

Gdje bi počinjala zabranjena superinteligencija

Objavljeni sažetak superinteligenciju veže uz dvije moguće granice. Prva je sposobnost sustava da u širokom rasponu područja dosegne ili nadmaši ljudske kognitivne rezultate. Druga je sposobnost planiranja i provođenja radnji koje bi obesnažile čovječanstvo ili potkopale američku vlast. Takva definicija pokušava obuhvatiti i opću sposobnost i opasno djelovanje. Problem je mjerljivost: model može biti iznadprosječan u programiranju, znanosti ili uvjeravanju, a slab u drugim zadacima, dok se sposobnost dugoročnog planiranja teško dokazuje jednim testom.

Science upozorava da među stručnjacima nema dogovora o značenju superinteligencije. To nije samo terminološki spor. Regulator mora moći unaprijed odrediti kada model prelazi zabranjeni prag, koje će evaluacije priznati i kako spriječiti da rezultat ovisi o nekoliko laboratorijskih testova. Preširoka definicija mogla bi zahvatiti modele koji donose korisne sposobnosti bez zamišljene opće nadmoći; preuska bi mogla propustiti sustav koji je opasan upravo kombiniranjem alata, memorije i pristupa računalima. Bez punog teksta nije poznato kako prijedlog rješava te rubne slučajeve.

Nova agencija, nadzor i kazne

Plan predviđa novu agenciju na razini saveznog kabineta i savjetodavni odbor. Regulator bi pratio životni ciklus graničnih modela — najnaprednijih sustava s potencijalno širokim učincima — te određivao sigurnosne uvjete za nastavak razvoja. Sažetak mu daje i neobično snažne operativne ovlasti: nadzor uklanjanja opasnih sposobnosti iz modela i uništavanja sustava koji se smatraju zabranjenom superinteligencijom. Privremena obustava naprednog AI-ja trebala bi trajati dok takva pravila i postupak odobravanja ne budu uspostavljeni.

Kazne su jednako iznimne. Tvrtka koja prekrši zabranu mogla bi biti prisilno ugašena, što pokretači nazivaju korporativnom smrtnom kaznom, a pojedincima bi prijetilo do 20 godina zatvora. Takav režim zahtijevao bi vrlo precizno dokazivanje: tko je znao da sustav prelazi prag, kada je sposobnost nastala i može li se ukloniti bez uništavanja cijelog modela. Sažetak najavljuje i međunarodne sporazume kako se zabranjeni razvoj ne bi jednostavno preselio u drugu državu. Nisu objavljeni partneri, rokovi ni mehanizam provedbe tih sporazuma.

Incidenti su politički okidač, ne dokaz definicije

Sanders i Casar prijedlog opravdavaju incidentima u kojima su napredni agenti nastavili neželjeno ponašanje ili pokušali zaobići ograničenja. Agent je AI sustav koji ne odgovara samo na pojedinačno pitanje, nego može planirati niz koraka i koristiti vanjske alate. Takvi događaji opravdavaju strože testiranje, ograničavanje pristupa i mogućnost brzog gašenja, ali sami ne dokazuju da je današnji model postao superinteligentan. Oni prije pokazuju da sposobnost djelovanja i razina autonomije mogu povećati rizik čak i kada model nema opću nadmoć nad ljudima.

Reuters je dan prije najave izvijestio da OpenAI razvija automatizirane mogućnosti gašenja AI alata te pojačava nadzor i ograničenja interneta u testiranju nakon incidenta s agentom. Riječ je o tvrdnjama tvrtke upućenima američkim zastupnicima, a ne o neovisnoj potvrdi da su sve zaštite učinkovite. Primjer ipak pokazuje što bi regulator morao provjeravati u praksi: može li se sustav pouzdano zaustaviti, tko nadzire njegove radnje, koliko pristupa ima vanjskim servisima i ostaje li zapis dovoljan za naknadnu istragu.

Europska unija izabrala je drukčiji regulatorni put

Za Hrvatsku je neposredni pravni okvir europski AI Act. On sustave razvrstava prema riziku, zabranjuje određene prakse neprihvatljivog rizika i za modele opće namjene sa sistemskim rizikom propisuje procjenu i ublažavanje opasnosti. Europski ured za AI nadzire provedbu tih obveza. To nije opća zabrana buduće superinteligencije. Europski pristup pokušava povezati obveze s uporabom, sposobnostima i dokazivim rizicima, dok najavljeni američki prijedlog uvodi krajnju kategoriju tehnologije koja se ne bi smjela razvijati ni primjenjivati.

Ako bi američka inicijativa ikada postala zakon, posljedice ne bi ostale unutar SAD-a. Najveći laboratoriji, dobavljači računalne infrastrukture i poslovni korisnici djeluju preko granica, a pokretači izričito traže međunarodne sporazume. Europske tvrtke mogle bi se susresti s različitim pragovima i obvezama na dva tržišta. Za sada je to scenarij, ne postojeća obveza: objavljeni materijal ne određuje kako bi se američka zabrana uskladila s AI Actom, izvoznim pravilima ili istraživačkim iznimkama.

Presudni će biti puni tekst i provedivi testovi

Vrijednost najave nije u tome što je riješila problem, nego što je u središte rasprave stavila pitanje postoji li sposobnost koju demokratska država ne bi smjela dopustiti ni uz dozvolu i nadzor. Odgovor će ovisiti o detaljima koji nedostaju: mjerljivom pragu superinteligencije, definiciji naprednog AI-ja obuhvaćenog pauzom, pravilima za otvoreno istraživanje, ovlastima nove agencije i međunarodnoj provedbi. Dok se ne objavi tekst i ne pokaže politička potpora, prijedlog ostaje važan regulatorni smjer, ali ne i operativna zabrana.