Nedavno sam imao priliku razgovarati s Francisom de Souzom, COO-om Google Clouda, tijekom jednog događaja u Los Angelesu. Usred buke oko nas, de Souza, koji govori smireno poput profesora, ponudio je korisne savjete za tvrtke koje se suočavaju s trenutnom situacijom u vezi s sigurnošću umjetne inteligencije, napominjući da “će postojati prijelazno razdoblje, a zatim mislim da ćemo doći do boljeg mjesta.”
Nije govorio o Googleu u tom trenutku, ali jasno je da čak i Google još uvijek razjašnjava stvari.
De Souza je istaknuo poruku koju sigurnosni stručnjaci pokušavaju prenijeti izvršnim direktorima već godinama, a koja je sada postala hitna zbog AI-a: sigurnost ne može biti sporedna stvar. “Kada tvrtke započinju ovo putovanje s AI-em, moraju usvojiti platformski pristup,” rekao je. “Sigurnost nije nešto što možete dodati kasnije, niti je to nešto što možete prepustiti zaposlenicima da rade sami.” Upozorio je posebno na “shadow AI” — korištenje potrošačkih alata od strane zaposlenika bez nadzora organizacije — i tvrdio da tvrtke trebaju od svojih platformi zahtijevati sigurnost, upravljanje i revizibilnost od samog početka. “Ne postoji strategija umjetne inteligencije bez strategije podataka i strategije sigurnosti. One moraju ići ruku pod ruku.”
Važno je napomenuti: nije promovirao samo Google Cloud. Kada sam primijetio da njegovi savjeti zvuče kao Googleova reklama, odbio je to. Google, rekao je, opredijeljen je za multicloud pristup i tvrdio je da tvrtke koje misle da rade na jednoj oblačnoj platformi gotovo sigurno nisu. “Čak i ako odaberu jedan oblak, oslanjaju se na SaaS aplikacije, postoje poslovni partneri koji možda koriste različite oblake,” rekao je. “Važno je da tvrtke imaju sigurnosni pristup koji je dosljedan između oblaka i modela.”
De Souza je također istaknuo da se prijetnje promijenile toliko fundamentalno da stari obrambeni modeli postaju prespori. Napomenuo je da je prosječno vrijeme između prvotnog proboja i prijelaza na sljedeću fazu napada smanjeno s osam sati na 22 sekunde, a površina napada proširila se izvan tradicionalnih mrežnih perimetara. “Osim vaše uobičajene infrastrukture, sada imate modele. Imate podatkovne cjevovode koji se koriste za obuku modela. Imate agente, imate upite. Sve to treba zaštititi.”
Jedna prijetnja koju je de Souza istaknuo, a koja ne dobiva dovoljno pažnje, su agenti koji prolaze kroz interne sustave tvrtke i mogu otkriti zaboravljene repozitorije podataka o kojima nitko nije razmišljao godinama. “Mnoge organizacije imaju stare SharePoint servere [i pristupne kontrole] koje nisu stvarno ažurirali, ali to nije bilo važno jer nitko nije znao gdje su. No, agenti koji se kreću vašom poduzećem pronaći će te podatkovne resurse i izložiti podatke na njima.”
Prema njegovom mišljenju, odgovor je susresti brzinu strojeva s brzinom strojeva. “Sada svjedočimo pojavi AI-nativne, potpuno agentske obrane gdje organizacije mogu koristiti agente za vođenje svoje obrane,” rekao je. “Umjesto da imate obranu koju vode ljudi ili čak ljude u procesu, sada možete imati ljude koji nadgledaju potpuno agentsku obranu.” Dodao je da je to postalo pitanje liderstva, a ne samo tehnologije. “To je pitanje na razini uprave i izvršnog tima. Nije to samo pitanje sigurnosnog tima.”
