Tvrtka Anthropic prvi put predstavlja svoj najmoćniji AI model široj javnosti, ali uz sigurnosne mjere.
U utorak je ova AI tvrtka lansirala Claude Fable 5, prvu javno dostupnu verziju svog Mythos modela. Anthropic tvrdi da Fable 5 izvrsno funkcionira u softverskom inženjeringu, znanstvenom radu i viziji, ali dolazi s strogo postavljenim sigurnosnim ograničenjima. U visokorizičnim područjima poput kibernetičke sigurnosti, biologije, kemije i destilacije, model blokira odgovore i vraća se na Claude Opus 4.8.
Mythos je prvotno lansiran u travnju, ali je bio ograničen na nekoliko partnera zbog zabrinutosti u vezi s kibernetičkom sigurnošću. Prošli tjedan, Anthropic proširio pristup stotinama organizacija diljem 15 zemalja, ponovno se fokusirajući na organizacije koje upravljaju kritičnom infrastrukturom.
Sada je verzija te tehnologije dostupna svima putem Anthropicove Claude API i planova temeljenih na potrošnji. Pristup na pretplatama bit će uveden u fazama: do 22. lipnja, Fable 5 bit će uključen u Pro, Max, Team i planove temeljen na sjedištima bez dodatnih troškova. 23. lipnja, Anthropic će povući Fable 5 iz tih planova, zahtijevajući korištenje kredita ubuduće, uz planove da ga ponovno uvede kao standardnu značajku pretplate što je prije moguće.
Anthropic također implementira novu verziju Mythos, nazvanu Mythos 5, za organizacije koje su već odobrene za pristup naprednom modelu.
Pokretanje Fablea događa se dok se Anthropic priprema za ulazak na javna tržišta, uz OpenAI i SpaceX Elona Muska. Također slijedi apel AI tvrtke koji poziva velike svjetske AI laboratorije da uspostave koordinirani kočioni sustav za razvoj granice AI. Anthropic je upozorio da sustavi napreduju tako brzo da bi mogli uskoro postići rekurzivno samopoboljšanje (RSI), autonomno poboljšavajući sebe bez ljudske intervencije.
Svjesni što bi model klase Mythos mogao učiniti u krivim rukama, Anthropic tvrdi da je testirao svoje klasifikatore s pokušajima jailbreaka prije nego što je objavio Fable 5.
“Interno smo proveli vanjski bug bounty koji nije rezultirao univerzalnim jailbreakovima u više od 1,000 sati testiranja. Zatim smo surađivali s vanjskim red-teaming organizacijama koje također nisu uspjele pronaći univerzalne jailbreakove.”
Ipak, moglo bi biti novih napada. Kao rezultat toga, s pokretanjem Fable 5 i Mythos 5, Anthropic je rekao da će zahtijevati 30-dnevno zadržavanje svih podataka, čak i ako su poduzeća ranije imala sporazume o nultom zadržavanju. Tvrtka je izjavila da neće koristiti podatke za obuku i da će ih koristiti samo za “obranu od složenih i novih napada, uključujući nove jailbreakove,” i “identificirati i smanjiti lažne pozitivne.” Ova politika mogla bi postaviti industrijski presedan u kojem pristup sve moćnijim modelima dolazi s obaveznim politikama zadržavanja podataka kao mjerom sigurnosti.
Za one koji nastavljaju koristiti model, ne će svaki upit dobiti odgovor iz Fable 5. Anthropic kaže da su slučajevi u kojima Fable mora odustati od Opusa 4.8 rijetki, a rani podaci pokazuju da barem 95% Fable sesija funkcionira potpuno na vlastitim odgovorima modela.
U testiranju trećih strana, analitička tvrtka Hex izjavila je da je Fable prvi koji je postigao 90% na svom osnovnom analitičkom benchmarku složenih, dugotrajnih analitičkih zadataka.
“Na najtežim pitanjima, pokazuje snažnu prosudbu i pažnju na nijanse,” izjavila je Hex.
Platforma za kodiranje Vibe, Base44, istaknula je da je Fable bolji u “jednom pokušaju za cijele aplikacije” i da ima izvrsno pozivanje alata. AI platforma za radne prostore i agente, Genspark, izjavila je da je Fable pobijedio sve druge modele u svojim evaluacijama i značajno bolje izvršavao zadatke poput dizajna korisničkog sučelja i programiranja igara.
Cijena za Fable 5 i Mythos 5 iznosi 10 USD po milijun ulaznih tokena i 50 USD po milijun izlaznih tokena, što je dvostruko više od cijene Opusa 4.8. Ta cijena sama po sebi mogla bi poslužiti kao prepreka za široku upotrebu.
Mnoge tvrtke postaju kritične prema troškovima AI nakon što su vidjele račune kako dolaze ili troše svoje godišnje proračune za AI prerano. Napredni modeli poput Opusa 4.8 mogu pogoršati te probleme, s naprednim razmišljanjem koje može podijeliti jedan zahtjev na više zadataka.
Anthropic očekuje da će potražnja za Fable 5 biti vrlo visoka i teška za predvidjeti. Neki, poput platforme za nagrade za kupovinu Rakuten, mogli bi smatrati da je prednost vrijedna cijene.
“Pri najvećem naporu, Fable reflektira i potvrđuje svoj rad,” izjavila je Rakuten. “Za nas, to čini visoko autonomne operacije mogućima — dodatno razmišljanje isplati se samo za sebe.”
