U utorak je tvrtka za AI infrastrukturu Runware najavila lansiranje svog modularnog podatkovnog centra nazvanog Sonic Inference Pod. Dizajniran kao jedinstvena prenosiva jedinica, Pod predstavlja fleksibilniju vrstu računalne obrade koja može stajati uz massive projekte podatkovnih centara hyperscalera.
Runware navodi da Pod može ponuditi inferenciju više kvalitete, ali po nižoj cijeni od drugih serverless platformi za inferenciju i GPU oblaka. Modularni dizajn omogućuje brzo dodavanje kapaciteta stvaranjem novih podova umjesto proširenja fiksnog podatkovnog centra. U nekim aspektima, ovo je budućnost, rekao je Flaviu Radulescu, suosnivač i CEO Runwarea, za TechCrunch.
“Vjerujemo da će distribuirana računalna obrada, smještena bliže krajnjim korisnicima radi brže inferencije, dugoročno pobijediti,” rekao je, navodeći svoju tvrtku kao primjer. Osim niže cijene, Radulescu je istaknuo da sustav Runware može brzo skalirati i dodavati kapacitet, implementirati se bilo gdje gdje ima struje i brzo se prilagođavati novim hardverskim izdanjima. Podovi Runware također ne koriste vodu, već zatvoreni sustav hlađenja koji se može izgraditi za nekoliko dana, u usporedbi s mjesecima ili čak godinama potrebnim za izgradnju tradicionalnih podatkovnih centara.
“Potražnja za inferencijom raste brže nego što se objekti mogu graditi,” rekao je Radulescu. “Ono što želimo je pokrenuti svjetsku inteligenciju, biti oslonac na kojem svaki AI model radi s kapacitetom koji prati potražnju umjesto da je ograničava.”
Trenutno Runware ima 10 podova u implementaciji diljem SAD-a, Europe i Azije, rekao je Radulescu. Tvrtka već pruža inferenciju nekolicini tvrtki, uključujući Higgsfield AI i Wix, i trenutno ima 160 lokacija dostupnih za napajanje svojih podova. Runware je najavio Series A od 50 milijuna dolara u prosincu kako bi osigurao infrastrukturu potrebnu za tvrtke za generiranje slika. Oni vide proširenje na podove kao dio osnovne misije tvrtke: pružanje inferencije tvrtkama, a ne jednog proizvoda.
AI laboratoriji poput OpenAI i SpaceX-a i dalje se natječu u izgradnji podatkovnih centara širom SAD-a. OpenAI, na primjer, blizu je sklapanja ugovora vrijednog 500 milijardi dolara koji bi uključivao izgradnju podatkovnog centra u Ohiju, prema izvještajima. No Radulescu ne vidi te projekte kao prijetnju Sonic Inference Podovima, opisujući fleksibilnost podova kao ključnu prednost.
“Svaki pod radi kao dio jedinstvene mreže, tako da zahtjevi idu gdje god ima kapaciteta, bliže korisnicima, a ako jedan pod isključi, promet se preusmjerava na drugi,” rekao je, dodajući da kvar sustava znači da je jedan pod isključen umjesto cijelog fiksnog objekta. “Kupci koji žele posvećeni hardver dobijaju cijele podove za sebe.”
Također nije previše zabrinut zbog drugih tvrtki koje to grade za sebe, ističući da je hardver spor i da je pronalaženje stručnjaka za izgradnju i popravak ove tehnologije mali izazov.
“Pogreška u dizajnu tiskane ploče košta mjeseci između redizajniranja, simulacije, proizvodnje, testiranja i isporuke,” rekao je. “Svaki od tih poziva treba nekoga tko točno razumije što svaki komponent radi i što se kvari ako ga nema.”
Izgradnja AI podatkovnih centara kontroverz tema, posebno zbog količine resursa koje koristi. Već su zajednice u kojima se nalaze podatkovni centri izvijestile o porastu troškova komunalnih usluga. Jednog dana, Runware vidi svijet u kojem može raditi na obnovljivoj energiji i ne iscrpljuje resurse koje zajednice trebaju, ali taj dan ne mora nužno biti danas.
Radulescu je rekao da će potrošnja AI energije rasti bez obzira na sve, “pokretana potražnjom za inferencijom, a ne od strane onoga tko je opskrbljuje.” Ono na što se Runware trenutno fokusira je kako ta potražnja može biti zadovoljena, rekao je. “Bez gubitaka u prijenosu, bez vode u hlađenju, i koristimo energiju koja već postoji umjesto da tražimo izgradnju nove mrežne kapacitete. Više inferencije izgrađene na ovaj način znači manje nove mreže, manje vode, za istu količinu računalne obrade.”
