Pismo američke vlade upućeno tvrtki Anthropic, koje je zapravo prisililo kompaniju da povuče svoje najnovije AI modele s mreže neposredno prije vikenda, trebala bi biti alarm za svaku tehnološku tvrtku u SAD-u — bilo da se radi o AI laboratoriju ili ne.
Da vas ukratko upoznamo s vijestima: U petak poslijepodne, američko Ministarstvo trgovine poslalo je Anthropic pismo pozivajući se na nejasnu direktivu o kontroli izvoza koja je zabranila neameričkim osobama, uključujući zaposlenike Anthropic-a, pristup modelima Fable 5 i Mythos 5, pozivajući se na neodređenu zabrinutost za nacionalnu sigurnost. Anthropic smatra da je pismo povezano s zaobilaženjem zaštitnih mjera modela, ali nije siguran jer pismo ne sadrži specifične detalje. Pismo nije objavljeno javnosti.
U odgovoru, Anthropic je zatvorio oba svoja vrhunska modela za sve korisnike kako bi osigurao usklađenost s direktivom. Rezultat je bio da je američka vlada uspješno prisilila tehnološku tvrtku na povlačenje svojih modela s mreže putem brze i jednostrane akcije koja, čini se, nije zahtijevala odobrenje suda.
Intervencija administracije Donalda Trumpa pokazuje da industrija umjetne inteligencije nije imuna na vladino miješanje. Također je upozorenje širem tehnološkom sektoru: pridržavajte se pravila, ili ćemo vas i vaše proizvode isključiti.
Prema izvorima, Axios opisuje napetu situaciju tijekom vikenda između dva glavna aktera, rekavši da su “osobne razlike” između Anthropic-a i Trumpove administracije dovele do direktive o izvozu, umjesto tehničkog problema s AI proizvodima.
Nova saznanja o ovom pitanju koja su se pojavila tijekom vikenda dodatno bacaju sumnju na već klimavu logiku vlade.
Katie Moussouris, veteranka kibernetičke sigurnosti, izjavila je u blog postu da je Anthropic nedavno podijelio s njom privatnu kopiju rada sigurnosnih istraživača koji opisuju navodno zaobilaženje zaštitnih mjera u Fable 5. Moussouris je rekla da je Anthropic kontaktirao kako bi tražio njezino mišljenje o radu.
Moussourisina objava opisuje kako su istraživači aktivirali zaobilaženje zaštitnih mjera, ali ističe da to samo po sebi “nikada nije smjelo pokrenuti kontrolu izvoza.” Razlika je u tome što se od AI modela traži da “pregleda kod zbog sigurnosnih problema” nasuprot traženju “popravka ovog koda.” Krajnji rezultat je uglavnom isti, čak i ako se pitanja postavljaju na malo drugačiji način.
“Ponašanje opisano u radu ne može se značajno popraviti, a svaki pokušaj samo bi oslabio model za obranu,” rekla je Moussouris, kritizirajući direktivu o kontroli izvoza kao brzopletu, prekomjernu i pogrešnu.
Moussouris i desetci drugih vrhunskih istraživača sigurnosti i stručnjaka pozvali su administraciju Trumpa da ukine kontrolu izvoza, nazivajući potez povlačenja naprednih kapaciteta kibernetičke sigurnosti iz mrežnih obrambenih snaga u SAD-u “opasnim.”
Prošle administracije donosile su široke odluke zbog praznina u znanju. Na primjer, jezik koji je koristila američka vlada tijekom 2010-ih za ispravak zakona o izvozu koji se odnosi na alate kibernetičke sigurnosti koji se također mogu koristiti za kibernetičke napade bio je toliko širok da je nenamjerno gotovo zabranio legitimno istraživanje sigurnosti i ranjivosti.
Međutim, direktiva administracije Trump izgleda kao odmazda.
Justin Hendrix, urednik Tech Policy Pressa, rekao je da je potez administracije Trump “vjerojatno izazvao uzbunu u stranim prijestolnicama o pouzdanosti američke AI za kritične aplikacije.” Poruka je da se američke AI tvrtke ne mogu smatrati pouzdanim bez miješanja vlade SAD-a.
Administracija Trumpa nije potvrdila zašto je pokrenula svoju direktivu o kontroli izvoza. Jesu li službenici pogrešno protumačili izvještaj i uzrujali se? Je li izvršni direktor Amazona Andy Jassy rekao nešto visokim vladinim dužnosnicima što je izazvalo reakciju, iz predostrožnosti ili zlobe? Je li nešto izgubljeno u prijevodu, ili je to bio način pritiska na Anthropic, s kojim administracija već ima napet odnos? Moguće je da Bijela kuća nije bila svjesna dalekosežnih posljedica zahtjeva iz pisma i da službenici pokušavaju otkloniti štetu koju su sami prouzročili.
Kako bi citirao Hendrixa, “klima je jedna od sumnje da viši dužnosnici biraju favorite na temelju osobnih i političkih faktora.” Posljedica je da je vlada postavila opasan presedan o tome koliko kontrole namjerava imati nad objavljivanjem američkog softvera.
Ovaj put vlasti su imale problema s Anthropic-om; sutra bi to moglo biti s nekim drugim.
