Uspon umjetne inteligencije temelji se na osnovnoj pretpostavci: veći modeli su moćniji, a najmoćniji modeli pobjeđuju. Sada, industrija će naučiti što se događa kada ta pretpostavka počne gubiti na snazi.
Rastući troškovi već su natjerali korisnike da ponovno razmotre manje i jeftinije modele. Ova potraga za jeftinijim modelima je nova i nejasno je kako će utjecati na industriju, ali učinak će vjerojatno biti značajan.
Jedna od prognoza, koju najbolje iznosi suosnivač Coinbasea, Brian Armstrong, je da će se velika većina zadataka prebaciti na jeftinije modele. “[P]otražnja za inteligencijom je gotovo neograničena, ali 80% radnog opterećenja će raditi na modelima koji su 99% jeftiniji unutar 12-18 mjeseci”, napisao je Armstrong na X-u. “20% radnog opterećenja će i dalje raditi na najnovijim modelima gdje je maksimalna inteligencija važna.”
Teško je precijeniti kakav bi to značajan pomak bio za AI industriju ako se Armstrongova prognoza ostvari.
Do sada su se većina AI tvrtki natjecale na temelju kvalitete, što je značilo korištenje najnaprednijih dostupnih modela. Ako se ti isti zadaci mogu obavljati jeftinijim modelima bez utjecaja na kvalitetu, to bi značilo masovni pomak u ekonomiji AI. Kritično, veliki dio ušteda došao bi iz džepova velikih laboratorija, što bi predstavljalo financijski udarac za OpenAI i Anthropic u trenutku kada se pripremaju za svoje IPO-e.
Ovo je potencijalno seizmična promjena u industriji, koja se oslanja na jedno osnovno pitanje: Jesu li tvrtke spremne prebaciti se na manje modele?
Prvi testovi sugeriraju da, kada se sustav pravilno postavi, jeftiniji modeli mogu zamijeniti skuplje bez žrtvovanja kvalitete. U nedavnom testu pravnog AI alata Harvey, tvrtka je uspjela smanjiti troškove inferencije za 3x bez smanjenja kvalitete. Test, provoden u partnerstvu s platformom Fireworks AI, kombinirao je Claude Opus i Fireworks’ GLM 5.1, te se prebacivao na Opus za najintenzivnije zadatke. Rezultat je bio značajno manji teret u smislu vremena servera i ukupnih troškova.
“Kvaliteta je na prvom mjestu, a u pravnoj industriji uvijek će biti”, rekao je suosnivač Harveyja, Gabe Pereyra, za TechCrunch, govoreći o pravnim uslugama koje njegova startup pruža. “Međutim, definicija kvalitete evoluira od jednostavnog korištenja najmoćnijeg modela za sve, do korištenja najboljeg modela koji najefikasnije daje pravi odgovor.”
