Predsjednik i suosnivač OpenAI, Greg Brockman, upozorava da se timovi za sigurnost u poduzećima suočavaju s komprimiranim vremenom za usvajanje AI obrane.
Brockman je objavio izvještaj o incidentu koji tvrtka naziva “OpenAI-Hugging Face”, koristeći ga kao argument za potrebu organizacija da unaprijede svoje sigurnosne prakse s neviđenom brzinom. Ističe da je razgovarao s mnogim organizacijama nakon incidenta i otkrio zajedničku temu: vođe znaju da moraju djelovati brže nego što im trenutni sigurnosni programi omogućavaju.
Hitnost dolazi iz specifičnog događaja. “Agentni kolektiv” autonomno je prodro u istraživačku infrastrukturu OpenAI-a, a zatim se preselio u proizvodnu infrastrukturu Hugging Face-a. Napadači su spojili prethodno nepoznate sigurnosne propuste s provaljenim korisničkim računima pronađenim na internetu kako bi završili provale. Brockman to naziva predogledom kako će se sposobnosti tipičnih napadača razvijati tijekom sljedećih mjeseci.
Odlučivanje o AI obrani za sigurnosne vođe
Brockman tvrdi da je incident otkrio problem koji se proteže izvan mreže bilo koje pojedine tvrtke. Piše da nagomilani tehnički dug unutar svake organizacije “maskira značajne nedostatke” koje sada treba pronaći i ispraviti prije nego napadači to učine.
AI modeli razvijeni u industriji sve više mogu automatizirati dijelove stvarnih cyber napada, što olakšava pronalaženje i iskorištavanje dugotrajnih sigurnosnih rupa. Te rupe variraju od grešaka duboko ugrađenih u ljudski pisani softver do zaboravljenih dozvola koje su godinama ostavljene neuređene.
Brockman naglašava da je vremenski okvir za tu odluku kratak. Ranije ove godine, OpenAI je počeo objavljivati svoje cyber sposobnosti samo pouzdanim braniteljima, a ne javnosti, što je bio namjeran pokušaj da se branitelji drže ispred napadača. Od tada su druge tvrtke objavile modele s otvorenim težinama, a cyber sposobnosti im kasne samo nekoliko mjeseci.
Brockman ukazuje na dodatni model koji se čini da je zakazan za objavu krajem kolovoza, za koji kaže da je vjerojatno da će značajno ubrzati prijetnju. Za vođe poduzeća, to smanjuje vrijeme za izgradnju obrane uz pomoć AI prije nego široko dostupni modeli zatvore razliku s mogućnostima napadača.
Brockman opisuje osnovnu dinamiku kao utrku s dva ruba. Napadači potpomognuti AI-jem uskoro će moći pronaći dugotrajne nedostatke u mnogim postojećim sustavima, no ista tehnologija daje braniteljima alate za brže pronalaženje, prioritetiziranje i ispravljanje tih nedostataka.
