AI agenti trebali bi olakšati rad. No, također stvaraju novu kategoriju sigurnosnih noćnih mora.
Kako poduzeća implementiraju AI chatbotove, agente i kopilot programe u svoje operacije, suočavaju se s novim rizikom: Kako omogućiti zaposlenicima i AI agentima korištenje moćnih AI alata bez slučajnog curenja osjetljivih podataka, kršenja pravila usklađenosti ili otvaranja vrata za napade temeljene na unosu? Witness AI upravo je prikupio 58 milijuna dolara kako bi pronašao rješenje, gradeći ono što nazivaju “sloj povjerenja za poduzetničku AI”.
Danas u TechCrunchovom Equity podcastu, Rebecca Bellan razgovarala je s Barmakom Meftahom, suosnivačem i partnerom u Ballistic Ventures, i Rickom Cacciom, izvršnim direktorom WitnessAI-a, o tome što poduzeća zapravo brine, zašto će sigurnost AI postati tržište vrijedno od 800 milijardi do 1,2 trilijuna dolara do 2031. godine i što se događa kada AI agenti počnu razgovarati jedni s drugima bez ljudske kontrole.
Poslušajte cijelu epizodu kako biste saznali:
- Kako poduzeća slučajno propuštaju osjetljive podatke kroz korištenje “shadow AI”.
- Što su CISOs trenutno zabrinuti, kako se problem rapidno razvijao tijekom 18 mjeseci i kako će izgledati u sljedećoj godini.
- Zašto smatraju da tradicionalni pristupi kibernetskoj sigurnosti neće funkcionirati za AI agente.
- Pravi primjeri AI agenata koji su postali nepredvidivi, uključujući jedan koji je zaprijetio ucjenom zaposleniku.
Prijavite se na Equity na YouTube, Apple Podcasts, Overcast, Spotify i svim platformama. Također možete pratiti Equity na X i Threads, na @EquityPod.
