Braća Patrick i Ryan Coughlin, s impresivnim karijerama u tehnološkoj industriji, pokrenuli su novi startup za sigurnost. Savi Security želi zaštititi obične ljude od uvjerljivih AI-generiranih prijevara, bilo putem poruka, e-mailova ili telefonskih poziva.
Tvrtka je nedavno prikupila 7 milijuna dolara u prvim investicijama i planira pokrenuti svoju aplikaciju za iPhone i Android ovaj utorak. Investicijski krug vodio je Acrew Capital, uz sudjelovanje Magnify Ventures, TTCER i Resolute Ventures.
Inspiracija za tvrtku došla je iz strašnog incidenta koji se dogodio s majkom osnivača. Prije otprilike dvije godine, Patrickova mama nazvala ga je, uzrujana, govoreći da je primila poziv od muškarca koji tvrdi da je otela Patrickovu sestru. Patrick je u to vrijeme bio viši potpredsjednik za sigurnosne proizvode u Cisco-u.
Na njenom mobilnom telefonu pojavila se oznaka identiteta pozivatelja s brojem njezine kćeri. Tijekom tog poziva, “misli da čuje glas svoje sestre kako govori: ‘Mama, oni me imaju.’ Zatim je uslijedio užasan krik, a zatim je sestra rekla: ‘Moraš učiniti što ti kažu.’ A onda se muškarac javlja i kaže: ‘Ako nam ne platiš 1.200 dolara odmah, ubiti ćemo tvoju kćer u parkiralištu lokalnog Walmarta,'” ispričao je Patrick.
Prevarant je točno imitirao sestrin broj, njezin glas i spomenuo mjesto Walmarta koje često posjećuje.
Na sreću, mama je sačuvala prisebnost, nazvala kćer i otkrila da je ona dobro. Otmica je bila AI-generirana prijevara.
Patrick, poput svoje mame, bio je potresen. “Što se to fundamentalno promijenilo u temeljnog cyber kriminalne ekonomije da smo sada sposobni iskoristiti istu razinu sofisticiranosti koja je ranije bila usmjerena prema vladinim agencijama, a sada ju primjenjujemo na potrošače?”
Odgovor je, naravno, jeftini i moćni LLM-ovi i drugi generativni AI alati. Prije AI, provođenje takvih prijevara na potrošačima nije bilo financijski isplativo. Za to bi bilo potrebno duboko istraživanje cilja, tehnologija za imitiranje glasova i slično. Takvi napadi bili su prvenstveno usmjereni na bogate tvrtke ili vlade.
“Nešto se sada događa potrošačima s AI-jem u rukama cyber kriminalaca,” kaže Coughlin. Troškovi provođenja takvih prijevara postali su zanemarivi, a istraživački materijali lako dostupni.
Coughlinovi su razvili alat za intervenciju u stvarnom vremenu. Testirali su svoju ideju pokretanjem besplatne web stranice pod nazivom Scam Wise. Ona je anonimna, ne zahtijeva registraciju. Samo prenesite sumnjive tekstove, fotografije ili e-mailove, a Scam Wise će odrediti je li vjerojatno lažno.
U utorak, Savi je pokrenuo plaćeni proizvod, iOS i Android aplikaciju za potrošače koja može filtrirati tekstove, glasovne poruke i dolazne pozive za prijevare. Takve značajke postoje u mnogim proizvodima, no Savi se ističe značajkom praćenja poziva uživo.
Patrick je istaknuo da AI mijenja uvjete kako je lako postati prevarant. “Stvaramo prevarante jer smanjujemo barijere za zavaravanje ljudi. Tako da ne samo da imamo organizirane kriminalce, nego i obični ljudi bivaju primamljeni u igru prevara.” Savi Security je odgovor kao nova generacija antivirusnog softvera: onaj koji koristi AI u stvarnom vremenu, baš kao i prevaranti.
