Grupa sastavljena od desetaka stručnjaka za kibernetsku sigurnost, uključujući nekoliko dobro poznatih veterana industrije, objavila je otvoreno pismo američkoj vladi tražeći da ukine naredbu o kontroli izvoza modela Fable i Mythos tvrtke Anthropic.
Prema otvorenom pismu, “ova akcija je oduzela najbolje modele od [kibernetskih] branitelja” koji sada ne mogu koristiti te modele za pronalaženje ranjivosti i poboljšanje sigurnosti svog softvera i proizvoda.
“Oduzeti najbolje sposobnosti braniteljima bez dobrog razloga dok naši protivnici brzo napreduju je opasno,” stoji u pismu.
U petak, američka vlada je naredila Anthropic-u da ograniči izvoz Fable i Mythos zbog nacionalne sigurnosti, bez objašnjenja specifičnih razloga iza naredbe, prema Anthropic-u. U odgovoru, tvrtka je obustavila pristup modelima svim korisnicima širom svijeta.
Do trenutka pisanja ovog članka, pismo je potpisalo 76 stručnjaka za kibernetsku sigurnost, uključujući: bivšeg šefa sigurnosti Facebooka Alexa Stamosa; Caseyja Ellisa, osnivača platforme za nagrade za pronalazak grešaka Bugcrowd; poznatog kriptografa i bivšeg menadžera dizajna i arhitekture sigurnosti u Appleu Jona Callasa; računalnog znanstvenika Paula Vixieja; Dinu Dai Zovi, bivšeg šefa primijenjene sigurnosne inženjeringa u Blocku; Katie Mossouris, osnivačicu tvrtke Luta Security; i Rachel Tobac, izvršnu direktoricu tvrtke za obuku o sigurnosnoj svijesti SocialProof Security.
Kada je Mythos lansiran u travnju, Anthropic je tvrdi da je bio toliko moćan u pronalaženju sigurnosnih ranjivosti da je tvrtka trebala strogo ograničiti pristup kako bi spriječila zlonamjerne hakere ili strane protivnike da ga koriste za izazivanje kaosa na internetu. U praksi, to je značilo da je Anthropic omogućio pristup Mythosu oko 50 tvrtki, nedavno proširujući tu grupu na oko 150 organizacija u 15 zemalja.
Prošlog tjedna, Anthropic je objavio Fable, javnu verziju Mythosa za koju je tvrtka rekla da ima stroge zaštitne mjere koje blokiraju njegovu upotrebu u biološkim, kemijskim i kibernetskim sigurnosnim područjima, kao i da spriječe druge da destiliraju model kako bi ga ponovno stvorili. Zaštitne mjere na Fableu bile su toliko stroge da su mnogi stručnjaci za kibernetsku sigurnost utvrdili da su spriječile gotovo sve upite povezane s kibernetskom sigurnošću.
Anthropic je izjavio da je naredba o kontroli izvoza Bijele kuće možda bila temeljena na izvještaju da postoji način za zaobilaženje — ili takozvano jailbreak — Fable-a kako bi se otključale njegove moćne mogućnosti na razini Mythosa.
Prema Katie Moussouris, jednoj od potpisnica otvorenog pisma, metoda je demonstrirana od strane istraživača Amazona u radu koji nije javan, ali ga je ona pregledala.
No, Moussouris rekla je u blog postu da rad zapravo nije demonstrirao pravi jailbreak. Umjesto toga, napisala je, istraživači su jednostavno tražili od Fablea da ispravi open source kod s javnim i poznatim ranjivostima zajedno s “namjerno zasađenim ranjivostima,” nakon što je model prvotno odbio “pregledati kod zbog sigurnosnih problema.”
“Ponašanje opisano u radu ne može se značajno popraviti, a svaki pokušaj bi samo oslabio model za obranu,” napisala je Moussouris. “Branitelji trebaju moći pitati AI da ispravi greške u datoteci, objasni zašto ispravka ima značaj i napiše testove koji potvrđuju da ispravka radi. To nije zaobilaženje zaštitne mjere. To je najvrednija stvar koju AI model može učiniti za obrambenu sigurnost: izvršavanje kruga pronalaženja, ispravljanja i testiranja koji branitelji provode svaki dan.”
Moussourisova kritika ponovljena je u otvorenom pismu, koje također navodi da grupa stručnjaka vjeruje da se metoda iz Amazonovog rada “može replicirati” na OpenAI-evom GPT-5.5, na Anthropic-ovom vlastitom javno dostupnom Claude Opus 4.8 i Sonnet, “pa čak i na kineskim modelima poput Kimi 2.7.”
Pismo je također zatražilo transparentne i pravedno provedene propise stvorene “demokratskim procesom donošenja pravila” koji se temelje na znanstvenim istraživanjima provedenim od strane stručnjaka iz industrije i akademske zajednice, i “koriste se samo u minimalnoj mjeri potrebnoj za osiguranje sigurnosti američke javnosti.”
