Ako ste ikada koristili autonomni Uber u središtu LA-a, mogli ste osjetiti čudan osjećaj nesigurnosti kada nema vozača i razgovora, samo tiha vožnja koja donosi pretpostavke o svijetu oko sebe. Putovanje se čini u redu dok auto ne pogrešno procijeni sjenu ili naglo uspori zbog nečega bezopasnog. Tada shvaćate pravi problem autonomije. Ne panika kada bi trebala, a taj razmak između povjerenja i prosudbe je mjesto gdje se povjerenje ili stječe ili gubi. Većina današnjeg poslovnog AI-a djeluje vrlo slično. Kompetentna je bez samopouzdanja i učinkovita bez empatije, zbog čega je odlučujući faktor u svakom uspješnom implementaciji više povjerenje nego računalna snaga.
Izvještaj MLQ State of AI in Business 2025 [PDF] jasno ukazuje na to. 95% ranih AI pilota ne uspijeva proizvesti mjerljiv ROI, ne zato što je tehnologija slaba, već zato što nije usklađena s problemima koje organizacije pokušavaju riješiti. Taj se obrazac ponavlja u industrijama. Vođe postaju nelagodne kada ne mogu procijeniti je li ishod točan, timovi nisu sigurni mogu li vjerovati nadzornim pločama, a kupci brzo gube strpljenje kada interakcija izgleda automatizirano umjesto podržano. Svakome tko je bio zaključan iz svog bankovnog računa dok automatizirani sustav oporavka tvrdi da su njihovi odgovori pogrešni, jasno je koliko brzo povjerenje nestaje.
Klarna ostaje najpoznatiji primjer velike automatizacije. Tvrtka je od 2022. godine prepolovila svoj broj zaposlenih i navodi da unutarnji AI sustavi obavljaju posao 853 zaposlenika, što je porast s 700 ranije ove godine. Prihodi su porasli za 108%, dok su prosječne plaće povećane za 60%, dijelom zahvaljujući tim operativnim dobitima. Ipak, situacija je složenija. Klarna je i dalje izvijestila o gubitku od 95 milijuna dolara u kvartalu, a njezin CEO upozorava da su daljnja smanjenja osoblja moguća. To pokazuje da sama automatizacija ne stvara stabilnost. Bez odgovornosti i strukture, iskustvo se raspada dugo prije nego što AI to učini. Kako kaže Jason Roos, CEO pružatelja CCaaS Cirrus, “Svaka transformacija koja uzrujava povjerenje, unutar ili izvan poslovanja, nosi trošak koji ne možete ignorirati. Može vas ostaviti u gorem položaju.”
Već smo vidjeli što se događa kada autonomija nadmaši odgovornost. Odjel za rad i mirovine Ujedinjenog Kraljevstva koristio je algoritam koji je pogrešno označio oko 200 000 zahtjeva za stambenim potporama kao potencijalno prijevarne, iako su većina bila legitimna. Problem nije bila tehnologija. Bila je to odsutnost jasnog vlasništva nad njenim odlukama. Kada automatizirani sustav obustavi pogrešan račun, odbije pogrešan zahtjev ili stvori nepotreban strah, problem nikada nije samo “zašto je model zakazao?” već “tko je odgovoran za ishod?” Bez tog odgovora, povjerenje postaje krhko.
