Microsoft je nedavno najavio veće promjene cijena za GitHub Copilot — promjene koje su bile toliko drastične da je jedan korisnik na Redditu rekao da njihova tvrtka već zove to Tokenpokalipsa.
U najnovijoj epizodi TechCrunchovog Equity podcasta, Kirsten Korosec, Sean O’Kane i ja raspravili smo što bi te promjene mogle značiti za širi AI ekosustav. Kako se Anthropic i druge velike AI tvrtke pripremaju za izlazak na burzu, postavljaju se neugodna pitanja o profitabilnosti, vjerojatno ćemo vidjeti slična povećanja cijena i više ograničenja korištenja dok tvrtke pokušavaju kontrolirati troškove.
“Mogu li ti AI laboratoriji smanjiti te troškove i napredovati dovoljno da se nađu na sredini s potrošačkom potražnjom za trošenjem?” upitao je Sean.
Kirsten je, s druge strane, sugerirala da to također odražava “kako brzo se stvari kreću.” U samo nekoliko mjeseci, tvrtke su postale opsjednute “tokenmaxxxingom”, a zatim su se okrenule protiv toga zbog visokih troškova. Dok AI tvrtke pišu svoje IPO prijave, pitala je, “Kako uopće zapisati ove rizike, kada se razvijaju pred našim očima?”
U nastavku donosimo pregled našeg razgovora, skraćenog radi dužine i jasnoće.
Anthony Ha: Kada smo to planirali, Seane, nazvao si to Tokenpokalipsom. Želim čuti više o tome što misliš o tome, ali postoji primjer Microsofta koji je odlučio s GitHub Copilotom da će početi naplaćivati više po tokenu [umjesto fiksne cijene].
Cijeli ovaj ekosustav je u velikoj mjeri, jako subvencioniran novcem investitora. I tako se stvari koje izgledaju kao da nemaju trošak, zapravo ispostavljaju kao nevjerojatno skupe. I sada ćemo doći do točke gdje će se veći dio tog troška prenijeti na krajnjeg potrošača, na kupca. Kako će to promijeniti ponašanje? Mislim da ne znamo, ali bit će puno boli.
