Anthropic predstavio je svoj najnoviji model Fable u utorak, nazivajući ga javnom i ograničenom verzijom svog moćnog i mnogo hvaljenog modela za cyber sigurnost Mythos.
No, nisu svi zadovoljni ograničenjima, a brojni istraživači i stručnjaci za cyber sigurnost iznijeli su pritužbe na mreži.
“[Fable] odbija svaki zahtjev koji bi mogao biti samo tangencijalno povezan s cyber sigurnošću. Čak i bezazlene zadatke poput čitanja bloga,” rekla je Valentina “Chompie” Palmiotti, poznata istraživačica sigurnosti koja radi u IBM X-Force.
Kada poticaj aktivira njegove zaštitne mjere, Fable obustavlja chat i kaže da su njegove “mjere sigurnosti označile ovu poruku kao vezanu za cyber sigurnost ili biologiju.”
Zaštitne mjere postavljene su kako bi se smanjio rizik da se Fable koristi za razvoj zloćudnog softvera ili kompromitiranje softvera — dugogodišnja zabrinutost unutar Anthropic-a. Ograničenja vezana za biologiju proizašla su iz slične zabrinutosti oko razvoja bioloških oružja.
Kada AI div objavio Mythos u travnju, ograničio je model na mali broj tvrtki i organizacija u onome što je nazvao Projekt Glasswing, napor za implementaciju modela kako bi se osigurali kritični softver i infrastruktura. Prošlog tjedna, Anthropic je proširio pristup Mythosu na stotine organizacija u 15 zemalja.
No unatoč dobrim namjerama, mnogi stručnjaci za cyber sigurnost i dalje su nezadovoljni kaotičnom prirodom ograničenja. Matt Suiche, veteran u cyber sigurnosti, rekao je za TechCrunch da “ako ga zamolite da napiše siguran kod, pretpostavlja da se radi o radu vezanom za cyber sigurnost umjesto o najboljim praksama inženjeringa softvera, i dobijete degradaciju.” Fable je programiran da se vraća na Claude Opus 4.8 ako naiđe na zaštitnu mjeru. “Čini se da se temelji na ključnim riječima, tako da sve što je u leksikalnom polju ‘cyber sigurnosti’ aktivira zaštitne mjere.”
