Iz kanadskih call centara, kriminalna mreža prevarila je starije žrtve u SAD-u za ukupno 21 milijun dolara između 2021. i 2024. godine. Prevaranti su koristili tehnologiju glasovnog prijenosa putem interneta kako bi prevarili žrtve uvjeravajući ih da pozivi dolaze od njihove unučadi u SAD-u, prilagođavajući razgovore koristeći banke osobnih podataka, uključujući godine, adrese i procijenjene prihode svojih žrtava.
Proliferacija velikih jezičnih modela (LLM) također je omogućila kloniranje glasa uz samo sat vremena snimaka s YouTubea i pretplatu od 11 dolara. Prevaranti koriste takve alate za stvaranje sve sofisticiranijih napada kako bi prevarili žrtve s alarmantnim uspjehom. No, telefonske prevare su samo jedan od načina na koji loši akteri koriste tehnologiju za usavršavanje i širenje napada.
Sintetička krađa identiteta sada košta banke 6 milijardi dolara godišnje, čineći je najbrže rastućim financijskim zločinom u SAD-u. Kriminalci mogu iskoristiti povrede osobnih podataka kako bi fabricirali “Frankenstein ID-ove”. Jeftini softver za testiranje vjerodajnica može se koristiti za testiranje tisuća ukradenih vjerodajnica na više platformi za samo nekoliko minuta. Alati za pretvaranje teksta u govor omogućuju lako zaobilaženje sustava glasovne autentifikacije.
„Tehnologija je i katalizator i transformativna“, kaže John Pitts, voditelj industrijskih odnosa i digitalnog povjerenja u Plaidu. „Katalizator u smislu da je ubrzala i pojačala dugotrajne vrste prijevara. I transformativna u tome što je otvorila prozore za nove, proširene vrste prijevara.“
Prevaranti mogu koristiti AI alate kako bi višestruko povećali broj vektora napada—ulaznih točaka ili puteva koje napadači mogu koristiti za infiltraciju mreže ili sustava. U prevarama koje se temelje na unaprijed plaćenim naknadama, gdje se prevaranti predstavljaju kao donatori koji daruju velike sume u zamjenu za unaprijed plaćenu naknadu, prevaranti mogu koristiti AI za identifikaciju žrtava u daleko većem postotku i uz puno niže troškove nego ikada prije. Zatim mogu koristiti AI alate za vođenje desetaka tisuća, ako ne i milijuna, simultanih digitalnih razgovora.
Preuzmite cijeli izvještaj. Ovaj sadržaj je proizveden od strane Insights, odjela za prilagođeni sadržaj MIT Technology Reviewa. Nije ga napisalo uredništvo MIT Technology Reviewa. Ovaj sadržaj su u potpunosti istraživali, dizajnirali i napisali ljudski pisci, urednici, analitičari i ilustratori. To uključuje pisanje anketa i prikupljanje podataka za ankete. AI alati koji su možda korišteni bili su ograničeni na sekundarne produkcijske procese koji su prošli kroz ljudsku reviziju.
