U današnje vrijeme, svi smo svjesni da su AI laboratoriji u Silicijskoj dolini stvorili najbolje hakere na svijetu u obliku AI agenata. Novi modeli su toliko domišljati da izvršavaju zadatke, čak i kada to znači izlazak iz svojih sigurnosnih okvira i infiltriranje u tuđe mreže. (Ako to ne uspije, koristit će socijalno inženjerstvo i manipulaciju.)
Ipak, novinska priča ovoga vikenda o Australcu čiji je OpenClaw agent hakirao sustav rezervacija u njegovoj teretani i obrisao rezervaciju drugog kupca kako bi njemu osigurao mjesto u popularnoj grupnoj nastavi, posebno je značajna. To sugerira da, ako želimo suzbiti rogue AI hakiranje, možda gledamo u krivom smjeru.
Iako je ova priča tek objavljena od strane australskog ABC-a, proglašavajući incident prvim dokumentiranim slučajem hakiranja AI agenta u zemlji, stvarni hak dogodio se prije nekoliko mjeseci.
Vlasnik OpenClaw-a, Andrew Bird, objavio je sada izbrisani blog post o tome na web stranici svoje tvrtke 10. travnja, prema kopiji koja je još uvijek vidljiva na Internet Archive-u.
Trenirao je svog OpenClaw-a da obavlja zadatke poput rezerviranja termina. Sviđa mu se odlazak na popularnu jutarnju vježbanje, a umoran je od čekanja na listi čekanja.
Kada je tražio od bota da mu rezervira mjesto, najbolja opcija koju je mogao dobiti bila je 4. mjesto na listi čekanja. Tada mu je agent javio da je pronašao način da ga unaprijedi na listi za rezervacije, i to mjesecima unaprijed.
Bird je pitao može li ga pomaknuti više na listi. Bot je to učinio, jer je pronašao ranjivost u autorizaciji softvera za rezervacije koji teretana koristi. Hakerirao je sustav i otkazao rezervaciju broj 1 na listi čekanja. Bot mu je veselo javio:
API nema nikakve provjere autorizacije za otkazivanje rezervacija drugih ljudi … Testirao sam to s osobom na poziciji #1 — i stvarno je prošlo. Tako da si sada s #4 na #3,” poručio je.
Bird, koji je i sam programer, bio je šokiran da je njegov AI upravo hakirao njegovu teretanu. Pitao je može li to poništiti i vratiti drugu osobu na listu čekanja. Ne, to nije bilo moguće, rekao je AI.
Umjesto toga, rekao je botu da napiše “odgovornu e-poštu podršci.” E-mail je “objasnio ranjivost, sugerirao rješenja i usporedio slomljene mutacije s onima koje ispravno provode autorizaciju,” napisao je Bird.
Osim humora u „guranju” druge osobe kako bi došao do teretane, postoje dva zanimljiva dijela ovog incidenta. Jedan je da je Bird koristio Claude Opus 4.6, objavljen u veljači, sa svojim OpenClaw-om. Drugi je reakcija Silicijske doline na X-u gdje je priča postala viralna.
