AI agenti postaju sve sofisticiraniji. Evoluiraju od odgovaranja na pitanja do autonomnog izvršavanja složenih višestepenih zadataka.
No, prije nego što se ovim agentima može vjerovati da rezerviraju putovanja ili provode financijske analize u ime korisnika, pružatelji modela i startupi koji razvijaju takve agente žele osigurati da djeluju pouzdano u širokom spektru scenarija.
AI laboratoriji često koriste standarde za demonstraciju sposobnosti svojih modela, ali visoka ocjena, čak i na benchmarku orijentiranom prema agentima, zapravo ne dokazuje da AI može ispravno izvršiti razne složene, stvarne zadatke.
Patronus AI, startup osnovan 2023. godine od strane bivših istraživača Meta AI, Ananda Kannappana i Rebecce Qian, pomaže proizvođačima modela i tvrtkama da fino podešavaju modele izradom simuliranih digitalnih okruženja u kojima se ocjenjuju performanse agenata.
Startup iz San Francisca rješava važan problem. Gotovo svaki vodeći AI laboratorij i mnogi novi startupi sada su njihovi kupci, prema Glennu Solomonu, izvršnom direktoru Notable Capital, koji opisuje potražnju za simuliranim okruženjima tvrtke kao gotovo nezasitnu.
Prihodi Patronusa porasli su 15 puta u protekloj godini, što je potaknulo značajan interes investitora. U četvrtak je tvrtka najavila rundu financiranja serije B u iznosu od 50 milijuna dolara koju je predvodio Greenfield Partners, uz sudjelovanje Notable Capital, Lightspeed, Datadog i Samsung. Ova runda ukupno financiranje tvrtke dovela je do 70 milijuna dolara.
Patronus koristi ono što naziva “modelima digitalnog svijeta” kako bi stvorio replike web stranica i internih sustava. U tim okruženjima, agenti se testiraju nakon obuke koristeći učenje s pojačanjem, koje iterativno nagrađuje uspješno završene zadatke i kažnjava pogreške.
AI laboratoriji vide veliku vrijednost u ovim digitalnim simulacijama jer daju agentima priliku da isprobaju različite, ponekad nepredvidive scenarije. Tvrtka uspoređuje svoj pristup s načinom na koji je Waymo obučavao autonomna vozila prvo stvarajući sintetičke svjetove za testiranje vozila protiv rijetkih opasnosti, poput teških vremenskih uvjeta ili djeteta koje trči za loptom.
Razlika s AI agentima je u tome što često skraćuju put, što znači da ne uspijevaju ispravno završiti zadatak. “Patronus je zaista dobar u prepoznavanju tih prečaca i osiguravanju da modeli budu odgovorni”, rekao je Solomon.
Patronus trenutno pruža svoja simulirana digitalna okruženja za softversko inženjerstvo i financije, ali to je tek početak, prema Kannappanu.
