Ant Group oslanja se na kineske poluvodiče za obuku modela umjetne inteligencije kako bi smanjio troškove i ovisnost o ograničenoj američkoj tehnologiji, prema izvorima upoznatima s ovom temom.
Tvrtka u vlasništvu Alibabe koristi čipove domaćih dobavljača, uključujući one povezane s Alibabom i Huawei Technologies, za obuku velikih jezičnih modela koristeći metodu Mješavina stručnjaka (MoE). Rezultati su navodno usporedivi s onima koje proizvode Nvidia H800 čipovi, tvrde izvori. Iako Ant i dalje koristi Nvidia čipove za dio svog AI razvoja, jedan izvor je rekao da se tvrtka sve više okreće alternativama iz AMD-a i kineskih proizvođača čipova za svoje najnovije modele.
Ovaj razvoj signalizira dublje angažiranje Anta u rastuću utrku umjetne inteligencije između kineskih i američkih tehnoloških tvrtki, osobito dok kompanije traže isplative načine za obuku modela. Eksperimentiranje s domaćim hardverom odražava širu nastojanje među kineskim firmama da zaobiđu izvozna ograničenja koja blokiraju pristup visokokvalitetnim čipovima poput Nvidia H800, koji, iako nisu najnapredniji, ostaju među najmoćnijim GPU-ima dostupnim kineskim organizacijama.
Ant je objavio istraživački rad koji opisuje svoj rad, navodeći da su njegovi modeli, u nekim testovima, postigli bolje rezultate od onih razvijenih od strane Mete. Bloomberg News, koji je prvi izvijestio o ovom pitanju, nije neovisno verificirao rezultate tvrtke. Ako modeli funkcioniraju kako je navedeno, Antovi napori mogli bi predstavljati iskorak u Kini prema smanjenju troškova korištenja AI aplikacija i smanjenju ovisnosti o stranoj opremi.
MoE modeli dijele zadatke na manje skupine podataka koje obrađuju odvojeni dijelovi, a privukli su pažnju istraživača umjetne inteligencije i znanstvenika podataka. Ova tehnika korištena je od strane Googla i startup-a iz Hangzhua, DeepSeek. Koncept MoE-a sličan je timu specijalista, gdje svaki obrađuje dio zadatka kako bi proces proizvodnje modela učinio učinkovitijim. Ant je odbio komentirati svoj rad u vezi s izvorima hardvera.
Obuka MoE modela ovisi o visokoučinkovitim GPU-ima koji mogu biti preskupi za manje tvrtke. Antovo istraživanje fokusiralo se na smanjenje te prepreke troškovima. Naslov rada jasno ističe cilj: Skaliranje modela “bez premium GPU-a”.
Pristup Anta i korištenje MoE-a za smanjenje troškova obuke kontrastira s pristupom Nvidije. Izvršni direktor Jensen Huang rekao je da će potražnja za računalnom snagom nastaviti rasti, čak i s uvođenjem učinkovitijih modela poput DeepSeekovog R1. Njegovo gledište je da će tvrtke tražiti moćnije čipove za povećanje prihoda, umjesto da se fokusiraju na smanjenje troškova jeftinijim alternativama.
Prema radu Ant Groupa, obuka jednog trilijuna tokena – osnovnih jedinica podataka koje modeli AI koriste za učenje – koštala je oko 6.35 milijuna yuana (približno 880,000 dolara) koristeći konvencionalni visokoučinkoviti hardver. Optimizirana metoda obuke smanjila je taj trošak na oko 5.1 milijun yuana korištenjem čipova niže specifikacije.
Ant je najavio planove za primjenu svojih modela proizvedenih na ovaj način – Ling-Plus i Ling-Lite – u industrijskim AI slučajevima kao što su zdravstvo i financije. Ranije ove godine, kompanija je kupila Haodf.com, kinesku online medicinsku platformu, kako bi ostvarila svoju ambiciju uvođenja AI rješenja u zdravstvo.
