Na konferenciji @Scale koju organizira Meta, Boris Cherny, kreator Claude Codea, odgovarao je na pitanje o petljama. “Jesu li petlje sljedeći hype ciklus ili su stvarne?” pitao je jedan od sudionika. Cherny je odgovorio: “Da, one su stvarne.”
“Prije dvije godine, pisali smo izvorni kod ručno. Sada prelazimo na to da agenti sami pišu kod, a uskoro ćemo doći do trenutka kada agenti potiču druge agente da pišu kod,” nastavlja Cherny. “Petlje su jednako važne kao i prijelaz s izvornog koda na agente.”
Kasnije u izlaganju, Cherny je govorio o petljama koje koristi u svom radu. Jedan agent neprekidno traži načine za poboljšanje arhitekture koda, dok drugi traži duplicirane apstrakcije koje se mogu ujediniti. Oni podnose zahtjeve za spajanje koda poput drugih programera, a kako se kod neprestano mijenja, nikada ne prestaju raditi.
Ova ideja je moćna, posebno s obzirom na značajnu osobu poput Chernyja. S prijelazom na agentnu umjetnu inteligenciju, fokus korisnika je bio upravljanje agentima: postavljanje jasnih ciljeva i praćenje napretka, bez skretanja s teme. Petlja omogućava skupini agenata da kontinuirano rade u pozadini. To zahtijeva veliku dozu povjerenja u AI, no s brzim napretkom modela, to bi mogla biti sljedeća faza u prepuštanju stvarnog rada AI-u.
Važno je napomenuti da ovo nije potpuno novo. Rekurzivne petlje – funkcije koje same sebe pozivaju kako bi ponovile neku radnju uz uvjet koji zaustavlja petlju – su temeljni dio učenja računalnih znanosti. Ove petlje slijede nedeterminističku logiku, gdje podagent odlučuje kada će zaustaviti petlju umjesto da se oslanja na jasno definirani uvjet.
Agenti koji koriste AI mogu implementirati varijante rekurzivnih petlji. Jedna od popularnih tehnika je Ralph Loop, koja sažima sav rad koji je model obavio i pita je li postigao svoj cilj. Ova tehnika pomaže AI modelima da se ne izgube tijekom dugotrajnih procesa, vraćajući model naprijed-natrag do završetka zadatka.
Povećanje računalnih resursa također se koristi kao način za osiguranje rješavanja problema. Kao što je primijetio istraživač OpenAI-a, suvremeni modeli mogu riješiti gotovo svaki problem uz dovoljno resursa. Za probleme poput poboljšanja koda, model može neprekidno raditi na malim poboljšanjima dok ne dosegne određeni prag.
Međutim, agentne petlje troše resurse brže od jednostavnih chatbotova. Za Anthropic, koji se bavi prodajom tokena, to može biti isplativo, ali za ostale to može biti skupi način rada. Uz odgovarajuću konfiguraciju koja omogućava nadzor troškova tokena, koristi mogu nadmašiti troškove.
