Na Consumer Electronics Show, izvršni direktor Nvidije Jensen Huang službeno je predstavio novu Rubin računalnu arhitekturu, koju je opisao kao vrhunsku u AI hardveru. Nova arhitektura trenutno je u proizvodnji, a očekuje se da će se dodatno povećati u drugoj polovici godine.
“Vera Rubin je dizajnirana da riješi ovaj temeljni izazov s kojim se suočavamo: količina izračuna potrebna za AI rapidno raste,” rekao je Huang. “Danas vam mogu reći da je Vera Rubin u punoj proizvodnji.”
Rubin arhitektura, koja je prvi put najavljena 2024. godine, rezultat je neumornog ciklusa razvoja hardvera Nvidije, koji je ovu kompaniju pretvorio u najvredniju korporaciju na svijetu. Rubin arhitektura zamijenit će Blackwell arhitekturu, koja je pak zamijenila Hopper i Lovelace arhitekture.
Rubin čipovi već su planirani za korištenje od strane gotovo svih glavnih cloud pružatelja, uključujući visoko profilirane partnerstva Nvidije s Anthropic, OpenAI i Amazon Web Services. Rubin sustavi također će se koristiti u HPE-ovom superračunalu Blue Lion i nadolazećem Doudna superračunalu u Lawrence Berkeley National Labu.
Nazvana po astronomu Veri Florence Cooper Rubin, Rubin arhitektura sastoji se od šest zasebnih čipova dizajniranih za rad u suradnji. Rubin GPU je u središtu, ali arhitektura također rješava rastuće uska grla u pohrani i međusobnoj povezanosti s novim poboljšanjima u Bluefield i NVLink sustavima. Arhitektura također uključuje novi Vera CPU, dizajniran za agentno rezoniranje.
Objašnjavajući prednosti nove pohrane, Dion Harris, viši direktor AI infrastrukturnih rješenja Nvidije, ukazao je na rastuće zahtjeve memorije povezane s cacheom modernih AI sustava. “Kada počnete omogućavati nove vrste radnih tokova, poput agentnog AI-a ili dugotrajnih zadataka, to stvara veliki pritisak i zahtjeve na vaš KV cache,” rekao je Harris novinarima. “Zato smo uveli novu razinu pohrane koja se vanjski povezuje s računalnim uređajem, što omogućuje učinkovitije skaliranje vašeg spremišta.”
Nova arhitektura donosi značajan napredak u brzini i energetskom učinku. Prema testovima Nvidije, Rubin arhitektura će raditi tri i pol puta brže od prethodne Blackwell arhitekture na zadacima modeliranja i pet puta brže na zadacima inferencije, dosegnuvši do 50 petaflopsa. Nova platforma će također podržavati osam puta više računalne moći za inferenciju po vatu.
Rubinove nove mogućnosti dolaze usred intenzivne konkurencije za izgradnju AI infrastrukture, koja je vidjela kako se i AI laboratoriji i cloud pružatelji bore za Nvidia čipove, kao i potrebne objekte za njihovo napajanje.
