Prema Thalesu, prijetnje povezane s umjetnom inteligencijom (AI) i kvantnim računalima su na vrhu liste briga organizacija koje se suočavaju s pitanjima sigurnosti podataka. To je ključna poruka iz godišnjeg izvješća o prijetnjama podacima za 2025. godinu, koje donosi detaljnu analizu najnovijih prijetnji sigurnosti podataka, novih trendova i aktualnih tema.
Rezultati ovogodišnjeg istraživanja su zabrinjavajući: gotovo sedam od deset organizacija sada smatra da brzina razvoja AI, posebno generativne AI, predstavlja najveći sigurnosni problem vezan uz njezino usvajanje. Ova zabrinutost nije samo vezana uz brzinu; također je potaknuta zabrinjavajućim nedostatkom integriteta u AI sustavima (što ističe 64% ispitanika) i nepovjerenjem (koje brine 57%).
Generativna AI zahtijeva velike količine podataka, oslanjajući se na visokokvalitetne, često osjetljive informacije za osnovne funkcije poput obuke modela, donošenja zaključaka i, naravno, generiranja sadržaja.
Kako napredujemo u razvoju „agentne AI“ – sustava koji mogu djelovati autonomnije – pritisak za osiguranje visoke kvalitete podataka postaje još kritičniji. Na kraju, ispravne odluke i pouzdane radnje AI sustava u potpunosti ovise o podacima koje primaju.
Mnoge organizacije već se upuštaju u generativnu AI, pri čemu trećina ispitanika navodi da je ona aktivno integrirana ili već transformira njihove operacije.
Prijetnje sigurnosti rastu s usvajanjem generativne AI
Kako generativna AI donosi složene izazove vezane uz sigurnost podataka, istovremeno nudeći strateške puteve za jačanje obrane, njezina sve veća integracija označava jasnu promjenu. Tvrtke ne samo da istražuju AI; sada se usmjeravaju na zrelije, operativne primjene.
Zanimljivo je da, dok većina ispitanika navodi brzu usvajanje generativne AI kao svoju najveću sigurnosnu brigu, oni koji su dalje na putu usvajanja ne staju kako bi potpuno zaključali svoje sustave ili prilagodili svoje tehnološke skupove prije nego što nastave naprijed. Ova žurba za brzim transformacijama, često zanemarujući pripremljenost organizacije, može značiti da ove tvrtke, možda nesvjesno, stvaraju vlastite naj ozbiljnije sigurnosne slabosti.
Eric Hanselman, glavni analitičar u S&P Global Market Intelligence 451 Research, rekao je: “Brzo mijenjajuće okruženje generativne AI tjera poduzeća da djeluju brzo, ponekad na račun opreza, dok se natječu da ostanu ispred krivulje usvajanja.”
“Mnoge organizacije implementiraju generativnu AI brže nego što mogu u potpunosti razumjeti svoje arhitekture aplikacija, a to dodatno komplicira brzi razvoj SaaS alata koji integriraju generativne AI mogućnosti.”
Na pozitivnoj strani, 73% ispitanika izvještava da ulažu sredstva u specifične sigurnosne alate za AI kako bi se suprotstavili prijetnjama, bilo kroz nove proračune ili preraspodjelu postojećih resursa. Oni koji daju prioritet sigurnosti AI također diversificiraju svoj pristup: više od dvije trećine nabavlja alate od svojih pružatelja oblaka, tri od pet se okreću etabliranim sigurnosnim dobavljačima, a gotovo polovica traži rješenja od novih ili rastućih startupa.
