Riječ “recursija” postala je najnovija buzz riječ u krugovima umjetne inteligencije (UI). Dva različita startupa su preuzela ime, a mnogi drugi počeli su spominjati recursivno samopoboljšanje (RSI) u svojim planovima. Poput AGI-a prije njega, RSI je postao troznamečna riječ koja označava kataklizmički uspon UI-a, iako još uvijek postoji nesuglasica oko toga što to točno znači.
U osnovi, RSI se odnosi na sustav umjetne inteligencije koji se može kontinuirano nadograđivati. Kada sustavi umjetne inteligencije budu mogli upravljati ciklusom nadogradnje bolje od ljudi, proces može postati zatvorena petlja, ograničena samo računalnom snagom koju mogu pristupiti, a ljudi više neće biti potrebni ili korisni.
Bez obzira na to koliko to zastrašujuće zvučalo, mnoge AI laboratorije željno jure tu viziju.
Ranije ovog mjeseca, poznati istraživač umjetne inteligencije Richard Socher pokrenuo je projekt pod nazivom Recursive Superintelligence s RSI-jem kao eksplicitnim ciljem. “Naš glavni fokus je izgraditi stvarno recursivnu, samopoboljšavajuću superinteligenciju na velikoj skali,” rekao je Socher TechCrunch-u prilikom lansiranja, “što znači da bi cijeli proces ideacije, implementacije i validacije istraživačkih ideja bio automatski.”
Brojni drugi istaknuti istraživači već jure taj isti cilj, nadajući se proboju koji će učiniti recursivno samopoboljšanje mogućim.
Jedan od najistaknutijih je Andrej Karpathy, legendarna figura iz Tesle i OpenAI-a, koji koristi agentne jata za obuku LLM-ova na jednostavnim zadacima u projektu koji naziva Auto-Research. Karpathy je bio neuobičajeno otvoren oko projekta, redovito tvitajući o prekretnicama i omogućujući gradivne blokove putem javnog GitHub repozitorija. Do sada je rad uglavnom bio ograničen na manje poboljšanja na modelu GPT-2 — kao što je Karpathy napomenuo u ožujku, “To nije nov, revolucionaran ‘istraživački rad’ (još)” — ali dovoljno je uvjerilo mnoge druge istraživače da slijede RSI san. A s Karpathyjem sada koji radi na preobuci u Anthropic-u, imat će dovoljno prilika za primjenu ideje na većoj skali.
Adaption — koju je osnovala Sara Hooker, bivša zaposlenica Cohere i Google-a — nedavno je pokrenula sličan alat pod nazivom AutoScientist kako bi automatizirala granicu obuke. Kao i Karpathyjevi auto-istraživači, sustav obučava agente da čine postupna poboljšanja — ali za Adaption, cilj je olakšati obuku punokrvnog modela granice. Ako ti isti istraživači počnu pomjerati granicu naprijed, sustav bi se mogao brzo pretvoriti u nešto vrlo slično RSI-ju.
Osnivačica Disarray-a, Doris Xin, privukla je dodatnu pozornost na RSI kada je njezin samonaučeni agent za strojno učenje osvojio 28 medalja na nedavnom Kaggle natjecanju, nadmašivši mnoge agente obučene od strane ljudi. Kako ona to vidi, glavni izazov je pouzdanost.
“Tvrdila bih da, s beskrajnim računalnim resursima i beskrajnim vremenskim okvirom, već smo tamo,” rekla je Xin. “Želim tvrditi da ovo nije kreativno nastojanje, zapravo. To je samo puno osnovnog inženjeringa.”
Još nismo tamo
Postoji također mnogo dokaza da industrija umjetne inteligencije nije vrlo blizu recursivnim sustavima na bilo koji značajan način — i još uvijek se bori s komunikacijom s opreznom javnošću o svojim napretcima. Tako je izvršni direktor Googlea Sundar Pichai praktički priznao u nedavnom podcast intervjuu.
“To je kontinuum i svi definitivno napredujemo,” rekao je Pichai. “Ali na način na koji ljudi opisuju RSI, to bi predstavljalo sljedeću razinu ubrzanja i imalo bi mnogo posljedica, ali još nismo tamo.”
No, kontinuum uključuje mnogo sustava umjetne inteligencije koji se samopoboljšavaju. U siječnju, jedan od glavnih programera Anthropic-a za Claude Code procijenio je da je “blizu 100%” koda njegovog tima napisano od strane alata — iskreno priznanje da je Claude Code doslovno pisao samog sebe.
Samo zato što inženjeri koriste alat umjetne inteligencije, ne znači da alat može zamijeniti njih — ali Anthropic se čini da se približava i zamjeni inženjera. U nedavnoj anketi vezanoj za Mythos pregled, pet od 18 Anthropic inženjera vjerovalo je da bi, uz poboljšanja u korištenju, ova verzija Mythosa mogla uskoro zamijeniti L4 inženjera — srednje razinu programera koji može preuzeti složene projekte bez nadzora.
Ipak, postojale su neke od istih slabosti koje biste mogli očekivati.
“Neke od glavnih prijavljenih slabosti Claude-a u usporedbi s L4 uključuju: samostalno upravljanje tjednim nejasnim zadacima, razumijevanje prioriteta organizacije, ukus, verifikaciju, praćenje uputa i epistemiku,” navodi izvještaj.
Drugim riječima, njegove slabosti su sve što se tiče samoupravljanja, što je kamen temeljac za RSI. No, sigurno, za sve ostalo, Claude je spreman odmah uskočiti.
Baš kao što je termin AGI prije njega, industrija umjetne inteligencije također nam ne može reći koliko je daleko od prikazivanja značajnog recursivnog sustava. Kada je Georgetownov Centar za sigurnost i nove tehnologije okupljao grupu stručnjaka za proučavanje RSI prošle godine, grupa je pronašla veliku podjelu u procjenama — neki su očekivali neposrednu eksploziju “superinteligencije”, dok su drugi očekivali sporiji napredak i konačnu plato. No, svi su se složili da recursija čini budućnost posebno teškom za predvidjeti.
Helen Toner, direktorica CSET-a i bivša članica upravnog odbora OpenAI-a, rekla je za TechCrunch da jednostavno korištenje alata AI za istraživanje AI-a nije dovoljno da bi se kvalificiralo kao RSI. “Oni samo koriste AI koliko god mogu,” kaže Toner za TechCrunch. “I mislim da je to drugačije od klasične definicije RSI, koja zaista znači da ljudima više nije potrebno.”
Toner ukazuje na nedavni post METR-ovog Ajeya Cotre, koji razlikuje različite prekretnice na putu do preuzimanja istraživanja AI-a. Jedan korak, koji Cotra naziva “adekvatnošću,” doći će kada sustav još uvijek može obavljati istraživanje nakon što su svi ljudi uklonjeni — čak i ako rezultantno istraživanje nije tako vrijedno ili učinkovito. “Paritet” dolazi kada je AI-samo sustav jednako dobar kao ljudski-samo sustav. “Supremacija,” konačna faza, dolazi kada AI-samo sustav nadmašuje suradnički sustav između ljudi i AI-a.
Na kraju, Cotra zaključuje da je AI vrlo blizu pragu adekvatnosti sposobnosti da proizvodi neki rad samostalno — slično postupnim promjenama koje je napravio Karpathyjev sustav Auto-Research. “Ne bih bila potpuno šokirana kada bi mi rekli da je ova prekretnica već prošla, a očekujem da će se to dogoditi u sljedećih nekoliko godina,” piše Cotra.
Manje je jasna kada će paritet doći, ali jednom kada to dođe, misli da će “masovno ubrzati tempo napretka AI-a, što će dovesti do supremacije istraživanja AI-a unutar još jedne godine.”
Problemi na putu
Uz toliko toga u AI-u izgrađenog na zakonima skaliranja, postoji snažna tendencija da se misli da će RSI slijediti istu krivulju. Toner misli da mnogi od onih koji se bave istraživanjem i razvojem AI-a putem RSI-a “mislite o tome kao o prilično glatkoj ljestvici, gdje se samo možete nastaviti povećavati.”
No, čak i ako istraživači AI-a mogu napraviti postupna poboljšanja poput Karpathyjevih auto-istraživača, postojat će veći izazovi u predaji cijelog procesa istraživanja. Toner to stavlja u kontekst povijesti računalstva, koja vidi kako ljudska bića prebacuju sve više i više procesa dok i dalje usmjeravaju stvari s vrha.
“Prešli smo od strojnih jezika do asemberskog jezika i kompajliranih jezika; sve više se udaljavate od srži računala,” kaže Toner. “Ali čovjek još uvijek, u nekom intuitivnom smislu, vodi predstavu.”
Premještanje izvan tog paradigme zahtijevat će značajne izazove, i inženjerske i usklađene. No, čak i uz massive investicije, nema beskrajne računalne snage — i osnovna razmjena između ljudske radne snage i strojne inteligencije bit će teška za prevladati.
Što se tiče potpunog recursivnog AI sustava apokaliptičnih vizija? Jedina stvar oko koje se istraživači suglasno slažu jest da, kao i AGI, to još nije ovdje.
