Prošlog petka, pozivajući se na neodređene nacionalne sigurnosne brige, Bijela kuća naredila Anthropic-u da ograniči izvoz svojih moćnih AI modela Fable i Mythos na bilo koga izvan Sjedinjenih Američkih Država, kao i na strane nacionalne unutar zemlje. Ubrzo nakon toga, AI div je naglo obustavio oba modela, koja sada nisu dostupna nikome već tjedan dana.
Ovaj slučaj predstavlja prvi pravi test da li američka vlada može koristiti izvoznu kontrolu kako bi obuzdala napredne AI tehnologije, na način na koji je pokušavala, s vrlo neujednačenim rezultatima, obuzdati enkripciju i špijunski softver ranije. Iako zvuči dramatično, način na koji će se ovaj sukob riješiti mogao bi oblikovati ne samo pristup Anthropic-a stranim tržištima, već i pravila koja će morati slijediti ostali AI laboratoriji.
Neki kontekst. Otkako je Anthropic lansirao Mythos u travnju, tvrtka ga je reklamirala kao neku vrstu cyber stroja sudnjeg dana koji bi mogao izazvati haos na internetu ako se previše široko pusti – zbog čega je, prije zabrane, samo oko 150 provjerenih tvrtki i vladinih organizacija imalo pristup. Cilj je bio pomoći braniteljima da osiguraju svoj softver i usluge prije nego što zli dečki dođu do sposobnosti sličnih Mythosu.
Što je izazvalo zabranu? Navodno dva uzastopna događaja. Prvi: Anthropic je pružio južnokorejskom telekomunikacijskom operateru pristup Mythosu kroz svoj program ograničenih partnera, a američki dužnosnici su se zabrinuli nakon što su identificirali tvrtku kao onu za koju sumnjaju da ima veze s Kinom. (Tvrtka, široko objavljivana kao SK Telecom, oporavila se od svih veza s Kinom.) Također, izvršni direktor Amazona Andy Jassy je navodno obavijestio administraciju nakon što su istraživači Amazona, prema njegovim riječima, pronašli način da zaobiđu sigurnosne mjere Fable 5. Anthropic osporava oznaku “jailbreak”, nazivajući to uskim, već zakrpljenim problemom, a ne potpunim porazom sigurnosnih mjera modela.
Rezultat je bio isti: Ministarstvo trgovine izdalo je direktivu o izvoznoj kontroli, a Anthropic je morao brzo ograničiti pristup svojim proizvodima unutar otprilike 90 minuta nakon što su obaviješteni, prema nekim izvorima.
Ništa od ovoga nije novo. Vlade su pokušavale koristiti izvoznu kontrolu kako bi ograničile širenje onoga što vide kao opasnu cyber tehnologiju desetljećima, ali njihova povijest je bila osrednja.
