Etched, startup za AI čipove osnovan od strane trojice studenata Harvarda 2022. godine, zaključio je financiranje serije C u iznosu od 300 milijuna dolara, s procijenjenom vrijednošću od 10,3 milijarde dolara, izjavio je su-osnivač i COO Robert Wachen za TechCrunch.
Ovo financiranje predvodila je tvrtka Sequoia, a sudjelovali su i Andreessen Horowitz, SK Hynix, Jane Street i Diffusion Capital, zajedno s drugim ranijim investitorima. Među podržavateljima tvrtke su i imena poput Petera Thiela, Andreja Karpathyja, Dylana Fielda, Amjada Masada i drugih.
Etched je ranije bio procijenjen na 5 milijardi dolara u prosincu kada su prikupili 500 milijuna dolara, što znači da se njihova procjena udvostručila u otprilike sedam mjeseci. Tvrtka tvrdi da je ovo najveća procjena ikada za seriju C koju vodi Sequoia. Prošli mjesec, Etched je objavio da je uspješno proizveo svoje čipove, da se njihovi prvi puni sustavi testiraju kod klijenata, i da su već zaprimili narudžbe u vrijednosti od 1 milijarde dolara.
Etched je pokrenut u vrijeme kada je ideja o izradi čipa specifično za AI modele temeljene na transformator tehnologiji (arhitektura iza većine modernih AI sustava, uključujući ChatGPT i Claude) bila smatrana ludom, ako ne i čudnom. Tvrtka se još uvijek bori s percepcijom da njihovi proizvodi — koji se prodaju kao puni sustavi, a ne samo čipovi — uključuju čipove dizajnirane za rad isključivo s određenim LLM-ovima.
To nije slučaj, objašnjava Wachen. Sustavi mogu raditi s bilo kojim AI modelom, uključujući Mixture of Experts modele poput DeepSeek i Qwen — arhitektura koja dijeli zadatke među specijaliziranim pod-modelima umjesto da se oslanja na jedan veliki model — kao i ne-transformator dizajne poput Mamba, koji je izgrađen na drugačijoj temeljnoj arhitekturi poznatoj kao model stanja. (Zanimljivo je da se ideja o urezivanju dijelova specifičnog AI modela izravno u silicij kako bi se poboljšala izvedba više ne smatra nerealnom. Google navodno istražuje istu koncepciju s svojim Frozen v2 čipom za Gemini.)
Unatoč tome, Etchedova trenutna prepoznatljivost leži u tome što je dizajnirao dvije nove komponente od nule kako bi ubrzao inferenciju — proces računalnog obrade koji se događa nakon što korisnik pošalje upit.
„Inferencija se sastoji od dva stadija”, kaže Wachen, „prefill i decode.” Faza „prefill” uključuje razumijevanje upita, uključujući kontekst. To je matematički i računalno intenzivno. Faza „decode” generira izlazne tokene (stvarni odgovor koji korisnik vidi). Ona zahtijeva manje računalne snage, ali treba ogromne količine memorije.
Etched je stvorio prefill čip koji radi „dramatično” brže, obećava, „zbog rada na mnogo nižem naponu nego bilo koji drugi AI čip. Ovo nazivamo niskonaponskom inferencijom.” Niži napon generira manje topline, što omogućava čipu da sadrži više tranzistora.
Za proces dekodiranja, Etched je stvorio novu vrstu memorije i „interkonektivnu tehnologiju koju nazivamo klasterska memorija.” Ona omogućuje mnogim čipovima da se povežu i koriste zajedničku memorijsku pohranu s vrlo, vrlo brzim niskim kašnjenjem,” kaže on. Rezultat, obećava Etched, su visoke brzine uz niže troškove.
Budući da je startup osnovan prije nego što je većina tehnološkog svijeta (osim Nvidije) razumjela specijalizirane računalne potrebe AI-a, osnivači, CEO Gavin Uberti, Wachen i CTO Chris Zhu, suočili su se s mnogim skepticima koji su sumnjali čak i nakon što su objavili da je njihova prva serija silicija uspješno proizvedena od strane TSMC.
Velik dio toga dolazi od toga koliko je malo ljudi imalo pristup sustavima. Do sada je pristup bio ograničen na investitore i rane kupce. U stvari, tako je Etched ušao na listu poznatih investitora — pokazujući im privatne demonstracije u svom uredu.
„Andrej Karpathy iz Anthropic, Noam Brown iz OpenAI, Geoffrey Hinton, kao i svi investitori u ovoj financijskoj rundi — to su sve ljudi koji su zapravo isprobali hardver i jako su uzbuđeni zbog njega,” kaže Wachen.
Ipak, bio je to dug, težak put s još puno toga za proći dok se rack sustavi masovno proizvode i isporučuju. Trojica su poznato napustili Harvard kako bi pokrenuli Etched, ne znajući tada kako prikupiti novac (a kamoli koliko će im trebati) ili kako zaposliti.
„Nisam imao pojma koliko će biti teško,” rekao je. „Mislim da se još uvijek moramo poniziti pred onim što će biti potrebno da se zapravo dođe do razmjera.”
Wachen se sjeća dolaska u Bay Area nakon što je rekao roditeljima da napušta školu kako bi pokrenuo startup, bez ureda ili stana. Spavao je na podu neuredne kuće prijatelja.
„Sjećam se da sam boravio u prijateljevoj kući koju su namjeravali prodati, koristeći ručnik kao deku,” smije se. Osnivači su na kraju postavili servere potrebne za rad alata za dizajn čipova u garaži ranog zaposlenika i „svaki put kada je trebao biti ponovno pokrenut, zvao bi svoju ženu, a ona bi otišla i pritisnula gumb za ponovno pokretanje.”
Danas, u uredu radi 400 ljudi, a Etched upravlja podatkovnim centrom od 2 megavata. „Trenutno radimo s tokenima u našem laboratoriju, surađujući s nekim od najvećih AI tvrtki na svijetu,” kaže on.
Wachen također sada ima deku, i madrac „i čak i jastuk. Više jastuka,” šali se.
Što je još važnije, on i njegovi su-osnivači nikada nisu dopustili da ih sumnjivci zaustave. „Došli smo daleko. To je vrlo, vrlo drugačiji svijet. Ali mislim da, kada stvarno mislite da je nešto moguće, i jednostavno radite na tome dugo vremena, možete to postići.”
