6. svibnja 2010. godine, u 14:32 po istočnom vremenu, gotovo bilijun dolara nestalo je s američkog tržišta dionica u roku od 20 minuta—u to vrijeme, najbrži pad u povijesti. Gotovo jednako iznenada, tržište se oporavilo. Nakon mjeseci istraga, regulatori su velikim dijelom odgovornost za ovaj “flash crash” pripisali algoritmima visoke frekvencije trgovanja, koji koriste svoju superiornu brzinu za iskorištavanje prilika za zaradu na tržištu. Iako ti sustavi nisu uzrokovali pad, djelovali su kao snažan ubrzivač: Kada su cijene počele padati, brzo su počeli prodavati imovinu. Cijene su tada padale još brže, automatizirani trgovci su prodavali još više, a pad se nastavio. Flash crash vjerojatno je najpoznatiji primjer opasnosti koje predstavljaju agenti—automatizirani sustavi koji imaju moć donositi odluke u stvarnom svijetu bez ljudske nadzora. Ta moć je izvor njihove vrijednosti; agenti koji su ubrzali flash crash, na primjer, mogli su trgovati daleko brže od bilo kojeg čovjeka. No, upravo je to razlog zašto mogu izazvati toliko nevolja. “Velika paradoks agenta je da upravo ono što ih čini korisnima—da su sposobni izvršavati niz zadataka—uključuje predaju kontrole”, kaže Iason Gabriel, viši istraživač u Google DeepMind-u koji se fokusira na etiku umjetne inteligencije. “Ako nastavimo na trenutnom putu… u osnovi igramo ruski rulet s čovječanstvom.” Yoshua Bengio, profesor računalnih znanosti na Sveučilištu u Montrealu, također upozorava na ovu situaciju.
Agenti su već svuda—i to već desetljećima. Vaš termostat je agent: automatski uključuje ili isključuje grijanje kako bi održao vašu kuću na određenoj temperaturi. Tu su i antivirusni programi i Roomba usisavači. Baš kao i trgovci visoke frekvencije, ti agenti su svi izgrađeni da izvršavaju specifične zadatke slijedeći propisane pravila. Čak i sofisticiraniji agenti, poput Siri i autonomnih automobila, slijede unaprijed napisane upute kada obavljaju mnoge od svojih radnji. No, u posljednjim mjesecima, nova klasa agenata pojavila se na sceni: oni izgrađeni pomoću velikih jezičnih modela. Operator, agent iz OpenAI-a, može autonomno navigirati preglednikom kako bi naručio namirnice ili napravio rezervacije za večeru. Sustavi poput Claude Code i Cursorove Chat značajke mogu modificirati cijele baze koda s jednim naredbom. Manus, viralni agent iz kineskog startupa Butterfly Effect, može graditi i implementirati web stranice s malo ljudske nadzora.
Agenti su već svuda i imaju potencijal za transformaciju gospodarstva. OpenAI-ov izvršni direktor Sam Altman kaže da bi agenti mogli “pridružiti se radnoj snazi” ove godine, a izvršni direktor Salesforcea Marc Benioff agresivno promovira Agentforce, platformu koja omogućuje tvrtkama da prilagode agente vlastitim potrebama. Također, Ministarstvo obrane SAD-a nedavno je potpisalo ugovor sa Scale AI-om kako bi dizajnirali i testirali agente za vojnu upotrebu. No, postoji zabrinutost zbog potencijalnih rizika. Agent koji ima pristup vašem bankovnom računu mogao bi vam pomoći u upravljanju budžetom, ali bi također mogao potrošiti sve vaše uštede ili otkriti vaše podatke hakeru.
