Prevare potpomognute umjetnom inteligencijom brzo evoluiraju dok cyber kriminalci koriste nove tehnologije za ciljanje žrtava, prema najnovijem izvješću Cyber Signals kompanije Microsoft.
U protekloj godini, tehnološki div tvrdi da je spriječio pokušaje prijevare u iznosu od 4 milijarde dolara, blokirajući otprilike 1,6 milijuna pokušaja registracije botova svake sat. Ovi podaci pokazuju razmjere ove rastuće prijetnje.
Deveto izdanje Microsoftovog izvješća Cyber Signals, pod naslovom “AI-podržana obmana: Novi prijetnji prijevarama i mjere zaštite”, otkriva kako je umjetna inteligencija smanjila tehničke barijere za cyber kriminalce, omogućujući čak i osobama s minimalnim vještinama da generiraju sofisticirane prevare s malo truda.
Ono što je ranije zahtijevalo dane ili tjedne, sada se može postići u nekoliko minuta.
Demokracija sposobnosti prijevare predstavlja promjenu u kriminalnom krajoliku koja utječe na potrošače i poduzeća diljem svijeta.
Evolucija AI-potpomognutih cyber prevara
Microsoftovo izvješće ističe kako AI alati sada mogu skenirati i prikupljati informacije s interneta o tvrtkama, pomažući cyber kriminalcima da izgrade detaljne profile potencijalnih ciljeva za uvjerljive socijalno inženjerske napade.
Zli akteri mogu namamiti žrtve u složene sheme prijevare koristeći lažne recenzije proizvoda poboljšane AI-jem i AI-generirane trgovine, koje dolaze s izmišljenim poslovnim povijestima i svjedočanstvima kupaca.
Prema Kelly Bissellu, potpredsjedniku za borbu protiv prijevara i zloupotrebe proizvoda u Microsoft Security, broj prijetnji nastavlja rasti. “Cyber kriminal je problem od trilijun dolara i raste svake godine posljednjih 30 godina,” navodi se u izvješću.
“Mislim da danas imamo priliku brže usvojiti AI kako bismo mogli brzo otkriti i zatvoriti razliku u izloženosti. Sada imamo AI koji može napraviti razliku na velikoj skali i pomoći nam da brže izgradimo sigurnost i mjere zaštite od prijevara u našim proizvodima.”
Microsoftov tim za borbu protiv prijevara izvještava da se napadi potpomognuti AI-jem događaju globalno, s značajnom aktivnošću iz Kine i Europe – posebno Njemačke, zbog svog statusa jednog od najvećih tržišta e-trgovine u Europskoj uniji.
Izvješće napominje da što je veće digitalno tržište, to je vjerojatnije da će se dogoditi proporcionalan broj pokušaja prijevare.
E-trgovina i prevarantske ponude za posao vodeći
Dva posebno zabrinjavajuća područja AI-potpomognutih prijevara uključuju e-trgovinu i prevare u zapošljavanju. U prostoru e-trgovine, lažne web stranice sada se mogu stvoriti u nekoliko minuta koristeći AI alate s minimalnim tehničkim znanjem.
Stranice često imitiraju legitimne tvrtke, koristeći AI-generirane opise proizvoda, slike i recenzije kupaca kako bi prevarili potrošače da vjeruju da komuniciraju s pravim trgovcima.
Dodajući još jedan sloj obmane, AI-potpomognuti chatboti korisničke podrške mogu uvjerljivo komunicirati s kupcima, odgoditi povrat novca koristeći izgovore i manipulirati pritužbama s AI-generiranim odgovorima koji čine da prevarantske stranice izgledaju profesionalno.
Tražitelji posla su također u opasnosti. Prema izvješću, generativni AI značajno je olakšao prevarantima stvaranje lažnih oglasa na raznim platformama za zapošljavanje. Kriminalci generiraju lažne profile s ukradenim podacima, lažne objave poslova s automatski generiranim opisima i AI-potpomognute kampanje e-pošte kako bi prevarili tražitelje posla.
AI-potpomognuti intervjui i automatske e-pošte povećavaju vjerodostojnost ovih prevara, čineći ih težima za prepoznavanje. “Prevaranti često traže osobne informacije, poput životopisa ili čak bankovnih podataka, pod izlikom provjere informacija kandidata,” navodi se u izvješću.
Crvene zastavice uključuju nepozvane ponude za posao, zahtjeve za uplatu i komunikaciju putem neformalnih platformi poput SMS-a ili WhatsApp-a.
Microsoftove mjere protiv AI prijevara
Kako bi se borio protiv novih prijetnji, Microsoft tvrdi da je implementirao višeslojni pristup kroz svoje proizvode i usluge. Microsoft Defender for Cloud pruža zaštitu od prijetnji za Azure resurse, dok Microsoft Edge, poput mnogih preglednika, nudi zaštitu od tipografskih pogrešaka na web stranicama i zaštitu od imitacije domena. Izvješće Microsofta napominje da Edge koristi tehnologiju dubokog učenja kako bi pomogao korisnicima da izbjegnu lažne web stranice.
Tvrtka je također poboljšala Windows Quick Assist s upozorenjima kako bi obavijestila korisnike o mogućim prevarama tehničke podrške prije nego što daju pristup nekome tko se predstavlja kao IT podrška. Microsoft sada blokira prosječno 4.415 sumnjivih pokušaja povezivanja Quick Assist dnevno.
Microsoft je također uveo novu politiku prevencije prijevara kao dio svoje inicijative Secure Future (SFI). Od siječnja 2025. godine, Microsoftovi timovi proizvoda moraju provesti procjene prevencije prijevara i implementirati mjere kontrole prijevara kao dio svog dizajnerskog procesa, osiguravajući da su proizvodi “otporni na prijevare po dizajnu.”
Kako se AI-potpomognute prevare nastavljaju razvijati, svijest potrošača ostaje važna. Microsoft savjetuje korisnicima da budu oprezni prema taktikama hitnosti, provjere legitimnost web stranica prije kupnje, i nikada ne daju osobne ili financijske informacije neprovjerenim izvorima.
Za poduzeća, implementacija višefaktorske autentifikacije i implementacija algoritama za detekciju deepfake-a može pomoći u smanjenju rizika.
