SenseTime je pokrenuo Galaxy projekt, udružujući se s gotovo 20 partnera kako bi unaprijedio domaću AI čip infrastrukturu u Kini.
Na glavnoj prezentaciji pod nazivom ‘Inteligentna transformacija i simbioza’, Yang Fan – suosnivač tvrtke i predsjednik njezine grupe za velike uređaje – predstavio je zatvoreni krug koji povezuje tehnologiju na razini čipa, partnerske ekosustave i komercijalnu primjenu domaće AI računalne snage.
Uz Galaxy projekt, SenseTime je potpisao sporazum o svemirskom računalstvu s proizvođačem satelita Guoxing Aerospace i uspostavio istraživačko partnerstvo s pet institucija, uključujući Shanghai Artificial Intelligence Laboratory, s ciljem znanstvenih računalnih primjena.
Yang je istaknuo da se trenutak poklapa s tri konvergirajuća trenda: rastom potražnje za tokenima u poslovnim primjenama, usvajanjem industrijskog AI-a koje sustiže potrošačke slučajeve, te komercijalizacijom domaćih čipova koja je dosegla točku gdje se centri za inteligentno računalstvo izgrađeni na kineskom silikonu mogu brzo uspostaviti.
No, hoće li taj prozor biti otvoren onako kako tvrdi SenseTime, ovisi uvelike o brojkama koje tvrtka nije neovisno provjerila.
Broj tokena dolazi s velikom zvjezdicom
SenseTime tvrdi da njegova platforma za velike uređaje sada obrađuje prosječno 2.42 trilijuna tokena dnevno, a tvrtka predviđa da će taj broj porasti 25 puta na 10 trilijuna tokena dnevno do četvrtog kvartala 2026. To je prognoza, a ne mjerena vrijednost, a poslovni kupci koji procjenjuju infrastrukturu SenseTime trebali bi to shvatiti kao takvo dok kvartalne brojke ne počnu stizati.
Tvrdnje o isplativosti povezanima s tim rastom također su samoproklamirane. SenseTime tvrdi da njegova heterogena hibridna tehnologija inferencije donosi 85-152 posto povećanje u iskorištenju Model FLOPs na mainstream domaćim čipovima, uz isplativost inferencije koju tvrtka postavlja na 1.25x onoga što imaju Nvidia H-serije.
U usporedbi s domaćim homogenim inferencijskim postavkama, SenseTime tvrdi da je došlo do 2.5x povećanja u izlazu tokena uz ekvivalentne troškove, što prema njihovim riječima dovodi optimizirane hibridne inferencijske klastere iznad minimalnog praga profitabilnosti za domaću računalnu snagu.
Tvrdnje o prilagodljivosti i problem višestrukih čipova
Domaći AI čipovi su povijesno imali problema s fragmentiranim softverskim stogom: modeli obučeni za jednu arhitekturu često zahtijevaju preinake za rad na drugoj. SenseTime tvrdi da je izgradio puni stog prilagodbene slojeve koji se proteže na modele, okvire, operatore, alate i hardver kako bi to riješio, s ciljem omogućavanja kupcima da migriraju radne procese između domaćih dobavljača čipova bez opsežnih prepravki.
Impresivan popis partnera
Galaxy projekt uključuje domaće dobavljače čipova kao što su Cambricon, Muxi, Hygon, Huawei Ascend i Moore Threads, te infrastrukturne tvrtke uključujući Silicon Motion i Qujing Technology. SenseTime planira izgradnju jedne ‘tvornice tokena’ i pet računalnih klastera.
