AI agenti sve češće mogu pretraživati web, mijenjati datoteke, pozivati poslovne alate, surađivati s drugim agentima pa čak i upravljati robotima ili laboratorijskom opremom. No kritički pregled objavljen 4. rujna na arXivu upozorava da širenje sučelja za djelovanje napreduje brže od dokaza da takvi sustavi pouzdano završavaju posao, poštuju ovlasti i oporavljaju se od pogrešaka. Autori zato predlažu da se agent ne procjenjuje samo prema modelu u njegovoj jezgri, nego kao cjelina sastavljena od modela, upravljačkog sloja, okruženja i osobe ili institucije koja mu delegira zadatak.

Sposoban model još nije pouzdan agent

U javnim raspravama riječ agent često služi kao skraćenica za napredniji jezični model. Autori Linsen Zhu i Mengqing Cai tvrde da je to preusko. Model može predložiti dobar plan, ali upravljački sloj odlučuje koje alate vidi, kako pamti stanje, kada traži odobrenje, koliko puta pokušava ponovno i što smatra završenim zadatkom. Okruženje zatim određuje jesu li posljedice samo simulirane ili mijenjaju stvarni račun, dokument, rezervaciju, bazu podataka ili fizički uređaj. Zbog toga isti model može biti relativno siguran u izoliranom testu, a rizičan kada dobije široke vjerodajnice i mogućnost nepovratnog upisa.

Pregled uvodi tri odvojene osi. Delegirana ovlast opisuje smije li sustav samo preporučiti potez, pripremiti reverzibilnu radnju za odobrenje ili sam promijeniti vanjsko stanje. Vremenska postojanost razlikuje jednokratni odgovor od višekoračnog, nastavljivog ili ponavljajućeg zadatka. Povezanost s okruženjem proteže se od resetabilne simulacije preko živih digitalnih usluga do zajedničkog društvenog i fizičkog prostora. Viša pozicija ni na jednoj osi ne znači automatski veću inteligenciju; znači da pogreška može trajati dulje, zahvatiti više sustava ili postati teža za poništavanje.

MCP i A2A povezuju sustave, ali ne stvaraju povjerenje

Model Context Protocol, poznat kao MCP, daje standardni način da aplikacija jezičnom modelu izloži podatke, resurse, predloške i funkcije. To je važan infrastrukturni pomak: umjesto posebne integracije za svaki model i servis, host, klijent i poslužitelj razmjenjuju strukturirane poruke. No sama specifikacija upozorava da takve veze mogu otvoriti pristup podacima i putove prema izvršavanju koda. Pristanak korisnika, kontrola pristupa i pregled radnji nisu čarobno svojstvo protokola; mora ih ispravno provesti aplikacija koja agentu daje ovlasti.

Agent2Agent, odnosno A2A, rješava drugi dio slagalice: otkrivanje agenata te razmjenu poruka, artefakata i dugotrajnijih zadataka među njima. Specifikacija definira stanja zadatka, strujanje rezultata i situacije u kojima agent traži dodatni unos. To olakšava interoperabilnost, ali potpisana kartica sposobnosti ne dokazuje da je drugi agent kompetentan, a status dovršeno ne jamči da je ostvarena namjera korisnika. Protokol može potvrditi tko je poslao poruku i u kojem je stanju zadatak; ne može sam utvrditi je li naručena promjena bila razumna, dopuštena i stvarno provedena.

Uspjeh jednom nije isto što i pouzdan rad

Autori podsjećaju na rane testove rada na webu i operacijskim sustavima. U izvornim radovima najbolji GPT-4 agent u WebAreni dovršio je 14,41 posto zadataka naspram 78,24 posto kod ljudi, dok je najbolja konfiguracija OSWorlda ostala ispod 12,2 posto naspram 72,4 posto kod ljudi. Ti brojevi danas nisu ljestvica najnovijih modela, nego povijesni dokaz da tečno objašnjenje plana nije jednako uspješnom upravljanju stvarnim sučeljem. Kasniji OpenAI-jev Computer-Using Agent prijavio je napredak na oba testa, ali i dalje uz potrebu za ljudskim nadzorom.

Još je važniji problem ponovljivosti. τ-bench ne gleda samo zvuči li razgovor uvjerljivo, nego uspoređuje završno stanje baze s unaprijed zadanim ciljem u maloprodajnim i zrakoplovnim scenarijima. U izvornom radu tadašnji vodeći agenti završavali su manje od polovice zadataka, a pokazatelj pass^8, koji traži uspjeh kroz osam ponavljanja, u maloprodaji je bio ispod 25 posto. Sustav koji ponekad točno promijeni rezervaciju ili narudžbu nije dovoljno pouzdan za proces u kojem niz uspješnih izvršenja mora biti pravilo, a pogrešna radnja nosi stvarni trošak.

Strukturirani alati pomažu, univerzalni klikovi otežavaju provjeru

API poziv barem jasno imenuje operaciju i argumente. Poslužitelj može provjeriti identitet, validirati oblik zahtjeva, zapisati promjenu i vratiti strukturirano stanje. Ipak, formalno valjan poziv može biti semantički pogrešan: agent može otkazati krivu rezervaciju ili poslati ispravno oblikovan zahtjev bez potrebnog odobrenja. Zato provjera ne smije završiti potvrdom da je alat vratio uspjeh. Sustav mora usporediti konačno stanje s korisnikovim ciljem i pravilima koja vrijede za cijeli slijed radnji.

Upravljanje mišem i tipkovnicom širi doseg na programe bez prikladnog API-ja, ali uklanja dio strukture. Značenje klika ovisi o tome koji je prozor aktivan, je li se stranica učitala, gdje se pojavila obavijest i što aplikacija skriva izvan prikaza. Takvo univerzalno sučelje može biti korisno kao rezervni put, no pregled upozorava da ne bi smjelo postati zaobilaznica oko dozvola i revizijskog traga. U praksi je uži alat s jasnim parametrima često lakše nadzirati od sposobnijeg modela koji slobodno upravlja cijelim zaslonom.

Cilj nije maksimalna samostalnost nego opravdano delegiranje

Predloženi okvir opravdanog delegiranja mijenja pitanje. Umjesto da se pita koliko dugo agent može raditi bez čovjeka, treba pitati postoje li dokazivo podrijetlo ulaza, najmanje potrebne dozvole, neovisna provjera važnih posljedica, mehanizam otkrivanja neuspjeha i siguran povratak u prethodno stanje. Ljudska kontrola pritom nije samo gumb koji formalno postoji. Operator mora dobiti dovoljno jasan prikaz namjeravane radnje i stvarnu mogućnost da je zaustavi, ispravi ili preuzme prije nego što posljedice postanu nepovratne.

Za organizacije koje uvode agente poruka je praktična: evaluirati treba cijelu konfiguraciju, uključujući promptove, memoriju, ovlasti, vjerodajnice, alate, ponovne pokušaje, limite troška i postupak oporavka. Članak nije dokaz da su svi agenti nepouzdani niti donosi jedinstvenu ocjenu tržišta. Riječ je o kritičkom pregledu literature zaključno s 31. kolovoza, bez sustavne pretrage i metaanalize, pa njegov okvir tek treba empirijski testirati. Ipak, precizno razdvaja ono što demonstracija može pokazati od onoga što produkcijski sustav mora dokazati prije nego što mu se povjeri stvarna ovlast.

Zašto je važno

Agentni AI postaje infrastrukturno važan upravo zato što više ne proizvodi samo tekst. Što je veća ovlast nad računima, dokumentima i uređajima, to su važniji neovisna provjera stanja, ograničene dozvole i oporavak nakon pogreške.

Što još ne znamo

  • Rad je preprint i nije predstavljen kao sustavni pregled ni kvantitativna metaanaliza.
  • Povijesni benchmark rezultati ne predstavljaju aktualnu ljestvicu modela i ne mogu se izravno prenositi na svaku produkcijsku konfiguraciju.
  • Opravdano delegiranje autorski je analitički okvir, a ne certificirana metrika sigurnosti.