Anthropic je ovog tjedna objavio da je ograničio objavu svog najnovijeg modela, nazvanog Mythos, jer je previše sposoban u pronalaženju sigurnosnih ranjivosti u softveru na kojem se oslanjaju korisnici širom svijeta.
Umjesto da pusti Mythos u javnost, laboratorij na rubu će podijeliti model s grupom velikih tvrtki i organizacija koje upravljaju kritičnom online infrastrukturom, od Amazon Web Services do JPMorgan Chase.
OpenAI navodno razmatra sličan plan za svoj sljedeći alat za cyber sigurnost. Očigledna ideja je omogućiti velikim poduzećima da budu ispred loših aktera koji bi mogli iskoristiti napredne LLM-ove za prodiranje u siguran softver.
No, “e-riječ” u gornjoj rečenici sugerira da bi moglo biti više u ovoj strategiji objave nego samo cyber sigurnost — ili hvalisanje sposobnostima modela.
Dan Lahav, izvršni direktor AI laboratorija za cyber sigurnost Irregular, rekao je za TechCrunch u ožujku, prije objave Mythosa, da, iako otkrivanje ranjivosti pomoću AI alata ima značaj, specifična vrijednost svake slabosti za napadača ovisi o mnogim faktorima, uključujući kako se mogu koristiti u kombinaciji.
“Pitanje koje uvijek imam na umu,” rekao je Lahav, “je jesu li pronašli nešto što je iskoristivo na vrlo značajan način, bilo pojedinačno ili kao dio lanca?”
Anthropic tvrdi da Mythos može eksploatirati ranjivosti daleko više od svog prethodnog modela, Opus. No, nije jasno da li je Mythos zapravo ultimativni model za cyber sigurnost. Startup Aisle izjavio je da je uspio replicirati mnogo onoga što Anthropic tvrdi da je Mythos postigao koristeći manje, otvorene modele. Tim Aislea tvrdi da ovi rezultati pokazuju da ne postoji jedan duboki model za cyber sigurnost, već ovisi o zadatku.
S obzirom na to da je Opus već bio viđen kao prekretnica za cyber sigurnost, postoji još jedan razlog zašto laboratoriji na rubu žele ograničiti svoje objave na velike organizacije: stvara to ciklus za velike ugovore s poduzećima, dok otežava konkurentima da kopiraju njihove modele koristeći destilaciju, tehniku koja koristi modele na rubu za obuku novih LLM-ova po povoljnijim cijenama.
“Ovo je marketinški pokrov za činjenicu da su modeli visoke klase sada ograničeni ugovorima s poduzećem i više nisu dostupni malim laboratorijima za destilaciju,” sugerirao je David Crawshaw, softverski inženjer i izvršni direktor startupa exe.dev, u objavi na društvenim mrežama. “Dok ti i ja možemo koristiti Mythos, bit će nova verzija koja je samo za poduzeća. Taj trkački stroj pomaže održavanju protoka novca iz poduzeća (što je većina novca) relegirajući tvrtke za destilaciju u drugu rangu,” rekao je Crawshaw.
Ta analiza se poklapa s onim što vidimo u AI ekosustavu: utrka između laboratorija na rubu koji razvijaju najveće, najmoćnije modele i tvrtki poput Aislea koje se oslanjaju na više modela i vide otvorene LLM-ove, često iz Kine i često navodno razvijene kroz destilaciju, kao put do ekonomske prednosti.
Laboratoriji na rubu su ove godine zauzeli oštriji stav prema destilaciji, a Anthropic javno otkriva što kaže da su pokušaji kineskih tvrtki da kopiraju njegove modele, a tri vodeća laboratorija — Anthropic, Google i OpenAI — udružila su se kako bi identificirala destilatore i blokirala ih, prema izvještaju Bloomberga.
Destilacija predstavlja prijetnju poslovnom modelu laboratorija na rubu jer eliminira prednosti koje proizlaze iz korištenja ogromnih količina kapitala za skaliranje. Blokiranje destilacije, stoga, već je vrijedno nastojanje, ali selektivni pristup objavljivanju također daje laboratorijima način da diferenciraju svoje ponude prema poduzećima dok kategorija postaje ključ za profitabilnu primjenu.
Hoće li Mythos ili bilo koji novi model zaista ugroziti sigurnost interneta ostaje za vidjeti, a pažljiva implementacija tehnologije je odgovoran put naprijed.
Anthropic nije odgovorio na naša pitanja o tome odnosi li se odluka također na zabrinutosti vezane uz destilaciju u trenutku objavljivanja, ali tvrtka je možda pronašla pametan pristup zaštiti interneta — i svoje bilance.
