Ova priča izvorno se pojavila u The Algorithm, našem tjednom biltenu o umjetnoj inteligenciji. Ako želite ovakve priče u svom inboxu, prijavite se ovdje.
Za sve vas koji uživate u ljetu, a niste svjesni najnovijeg sukoba između Anthropic-a i vlade SAD-a, evo sažetak: U travnju je tvrtka izjavila da je izgradila AI model pod nazivom Mythos koji je bio toliko dobar u radu s kodom da može predstavljati globalnu prijetnju sigurnosti. Anthropic je omogućio pristup maloj grupi stručnjaka za kibernetičku sigurnost kako bi vidjeli s čime se suočavaju. Zatim su objavili modificiranu verziju pod nazivom Fable, za koju su rekli da je sigurnija za javnost, 9. lipnja. U petak, federalna vlada je obavijestila tvrtku da predstavlja prijetnju nacionalnoj sigurnosti i uvela kontrole izvoza na novo izdanje. Anthropic je povukao pristup oba modela nekoliko sati kasnije.
Ljudi zabrinuti zbog katastrofalnih učinaka AI—široko nazivani “doomers”—godinama su tvrdili da tehnologija predstavlja prijetnju čovječanstvu i objavili su prijedloge kako bi vlada trebala intervenirati u njezin razvoj. Doomersi su upravo dobili svoju vladinu intervenciju—ne zbog biološkog oružja ili odmetnutog AI, već kao odgovor na AI model koji je jednostavno jako dobar u kodiranju. A rezultat do sada više izgleda kao površna reakcija nego kao plan sigurnosti.
Puno je toga za razmotriti što se dogodilo u tih nekoliko dana koji su doveli do tako drastične akcije vlade, a zanimljivo je da je izvršni direktor Amazona, Andy Jassy, bio taj koji je rekao vladinim dužnosnicima da bi Fable mogao biti opasan (Amazon je i investirao u Anthropic i gradi svoje vlastite konkurentske AI modele). Također je moguće da će ovo biti kratkotrajna zabrana vlade koja neće izdržati pravnu provjeru (nije jasno da li Anthropicovo davanje pristupa Fableu zapravo spada pod “izvoz”).
No, već se javljaju posljedice. Naime, ovo tjera mnoge ljude da ne žele ovisiti o američkim AI tvrtkama. Francuski političar Bruno Retailleau opisao je to kao “buđenje” koje bi trebalo motivirati Europu da izgradi više AI. No, svaka vizija pretvaranja Pariza u Silicijsku dolinu—što su mnogi drugi europski lideri promovirali nakon zatvaranja Anthropicovih modela—komplicirana je jednom velikom stvari: Kinom.
Open-source modeli iz Kine su vrlo sposobni i izuzetno jeftini, a mogu se preuzeti za pokretanje na bilo čijim poslužiteljima bez pravila ili zaštitnih mjera. (To ih čini privlačnima za tvrtke koje ne žele da im se pristup isključi na temelju odluke Bijele kuće—ali jednako privlačnima za kibernetičke kriminalce.) Moguće je da će tvrtke, uključujući one u SAD-u i Europi, odlučiti da je rad s kineskim modelima jednostavniji.
Drugo, moguće je da će isključivanje pristupa Anthropicovim modelima učiniti zemlju ranjivijom na kibernetičke napade, a ne manje. Vodeći stručnjaci za kibernetičku sigurnost to su rekli u otvorenom pismu vladi, ističući da je pristup Anthropicovim modelima pomagao istraživačima u pripremi obrane.
Treće, vrijedi pratiti kako će zakonodavci iz SAD-a reagirati. Nakon posljednjeg sukoba Anthropic-a s vladom o tome kako Pentagonski model može koristiti, uvedeni su novi zakoni koji bi definirali granice vojne AI.
